nlothik (nlothik) wrote,
nlothik
nlothik

Categories:

Не то лыжи, не то сишарп

Попробовал приколхозить свою нейросеть для распознавания изображения. Замахнулся обработать картинку 256х256. Обломился, не хватает памяти. Ладно. Попробуем 100х100, и заменим double (64 бита) на float (32 бита). Всё равно не хватает памяти. Ругнулся, сказал, компилировать только под x64. Взлетело. Но отжирает 8 гиг памяти, и работает просто капец как медленно.

Что-то я тут не вкуриваю. Вот у меня основа всего колхоза -- два массива float'ов 20 000 на 20 000. Это два блока по 12 800 000 000 бит или 1 526 мегабайт. Итого три гига, нормуль по современным меркам.

Откуда отжираемые 8 гиг-то, ёлкин кот?

Прямо хоть на гольных Сях под Линуксом переписывай.
Tags: непонять, программирование, учёба, фигачечная, чесать репу
Subscribe

  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 16 comments