Попробуйте уменьшить кеш в настройках, это немного снизит скорость расчетов, но будет хватать памяти. Особенности NET Framework 32 bit таковы, что если процессом "съедено" более 1гб памяти, то идут ошибки Out of Memory, что может нарушить нормальную работу программы. У нас есть 64бит версия, но с ней не работает коннектор Транзак.