Это сообщение о том, что выделенная виртуальная память закончилась. Рекомендации либо оптимизацию проводить на 64 бит, у windows там нет ограничения по памяти. Либо продолжать пробовать оптимизацию: рекомендации - выключить все приложения, провайдеров данных обязательно отключить. Включить оптимизацию и никаких действий с компьютером не производить. В настройках поставить 256 мб. Кол-во потоков - по кол-ву ядер.