November 5th, 2015

компьютеры

Не то лыжи, не то сишарп

Попробовал приколхозить свою нейросеть для распознавания изображения. Замахнулся обработать картинку 256х256. Обломился, не хватает памяти. Ладно. Попробуем 100х100, и заменим double (64 бита) на float (32 бита). Всё равно не хватает памяти. Ругнулся, сказал, компилировать только под x64. Взлетело. Но отжирает 8 гиг памяти, и работает просто капец как медленно.

Что-то я тут не вкуриваю. Вот у меня основа всего колхоза -- два массива float'ов 20 000 на 20 000. Это два блока по 12 800 000 000 бит или 1 526 мегабайт. Итого три гига, нормуль по современным меркам.

Откуда отжираемые 8 гиг-то, ёлкин кот?

Прямо хоть на гольных Сях под Линуксом переписывай.