Используется(будет?) ли эта технология при оптимизации системы на исторических данных. Оптимизация у вас и так, конечно, быстрая, но все же возможность ускорения в 5-10 раз будоражит:) тем более, что эти операции, как я понимаю, идеально подходят для этой технологии(однотипные, повторяющиеся).

В данный момент не используется, но мысли об этом есть.

Хорошая мысль, только тогда уже лучше использовать OpenCL, Open Computing Language (http://www.khronos.org/opencl/), он идет поверх CUDA от NVidia (http://www.nvidia.com/object/cuda_opencl_new.html) и аналогичной технологии от ATI (http://ati.amd.com/technology/streamcomputing/opencl.html).