Это говорит о том, что библиотеки были собраны под платформу х86, фреймворк проверяет соответствие платформы билиотеки текущему режиму приложения и выдает ошибку при попытке загрузки такой dll. Проект библиотеки должен быть собран под платформу AnyCPU, чтобы он мог загружаться по x64 (если указать х64 при сборке то он будет загружаться только в 64-ном режиме).
Пример правильно собранной библиотеки http://www.tslab.ru/ubb/ubbthreads.php?ubb=showflat&Number=21982#Post21982 . Она будет загружаться в 64-битном режиме.
См. также http://www.tslab.ru/ubb/ubbthreads.php?ubb=showflat&Number=36504