Что-то я тут не вкуриваю. Вот у меня основа всего колхоза -- два массива float'ов 20 000 на 20 000. Это два блока по 12 800 000 000 бит или 1 526 мегабайт. Итого три гига, нормуль по современным меркам.
Откуда отжираемые 8 гиг-то, ёлкин кот?
Прямо хоть на гольных Сях под Линуксом переписывай.