🖥️ Нейросеть нарисовала лицо на плате за несколько сотен рублей
🖥️ Нейросеть нарисовала лицо на плате за несколько сотен рублей 512 килобайт памяти. Меньше, чем в кнопочной Nokia. Два ядра по 240 мегагерц, ни одного тензорного ядра — и эта штука рисует лица по текстовому описанию. Не отправляет запрос в облако, а считает всё сама. Пять секунд на картинку. Stable Diffusion для того же просит видеокарту с 4–8 гигабайтами памяти. Автор на Хабре взял ESP32-S3, плату за несколько сотен рублей, и собрал модель с нуля под это железо. Главный трюк — не рисовать сразу в полном размере. Модель гоняет сжатый черновик, а уже потом раздувает его до картинки. Как художник, который сначала набрасывает силуэт на салфетке, а потом переносит на холст. Текстовый словарь вообще на 45 слов, а русские слова обрезаются до пяти букв: «улыбающаяся» превращается в «улыба». Всё сжато в 8-битные числа, поэтому модель весит 3,1 мегабайта и лежит прямо во флеш-памяти платы. Восемь шагов — 5,4 секунды. Четыре шага — 2,9 секунды, разница почти незаметна. Одна генерация из пяти выходит мусором, и автор это честно показывает. У меня в ящике стола валяется такая плата — брал мерить температуру в серверной. Теперь думаю, что зря. Midjourney это не заменит. Но генерация картинок перестала требовать дата-центр. #ИИ #железо #микроконтроллеры