Маленькая LLM на микроконтроллере за $10
Маленькая LLM на микроконтроллере за $10 Разработчик запустил языковую модель с 28,9 миллиона параметров на микроконтроллере ESP32-S3, который стоит меньше $10. Модель генерирует текст со скоростью почти 10 токенов в секунду, и все работает прямо на чипе, без облака и внешних серверов. 👉 Проект на GitHub — ссылка тут САЙТ | TG | VK | MAX | YT
168 просмотров
Канал в каталоге Максиметера
967 подписчиков · IT и технологии