Laya: локальная альтернатива Jev на 421 млн параметров
Laya: локальная альтернатива Jev на 421 млн параметров Похоже, у Jev появилась открытая локальная альтернатива — Laya. Это модель принятия решений на 421 млн параметров: быстрые ответы да/нет, оценка или выбор из вариантов. • работает менее чем с 1 ГБ памяти • бесплатно доступна на Hugging Face • запускается на ноутбуке и даже на телефоне В тесте Laya и облачный Jev играли в одну змейку с одинаковым форматом решений 30 секунд. Laya набрала 46 очков при длине 52, 86,5 решений в секунду и P50 около 9 мс. Jev — всего 1 очко, длина 7, 3,2 решения в секунду и полный цикл запроса к API 317 мс. На M5 Pro медиана составила 15,3 мс у локальной Laya против 298,1 мс у облачного Jev — почти 20-кратная разница. Все потому, что Laya решает локально, а Jev на каждом шаге ждет ответа от API.