35B-нейросеть запустили на iPhone
35B-нейросеть запустили на iPhone Вышел Edge0 — открытый движок, который запускает тяжелые нейросети прямо на смартфоне. Пик потребления памяти — всего 1–2.5 ГБ, никаких облаков и серверов, все строго локально. Секрет в том, что модель лежит на диске, а нужные веса подтягиваются в память на лету. Так что теперь телефон полностью офлайн может писать софт, генерировать 3D-сцены и собирать игры. В релизе две модели: 8B и 35B. Забрать движок можно на GitHub
17 просмотров