Разработчик поделился своим опытом создания терминального ассистента TERMy без использо...
Разработчик поделился своим опытом создания терминального ассистента TERMy без использования нейросетей и модели машинного обучения. Сначала он пытался тренировать собственные трансформеры на домашнем компьютере, но этот путь оказался неэффективным из-за низкой скорости и качества ответов. Затем он создал формат датасетов и парсер для обработки пользовательских запросов на основе шаблонов, что позволило сделать ассистента быстрым, предсказуемым и работающим даже на очень слабых машинах. Проект NPC-Forge теперь позволяет каждому создавать и использовать таких ассистентов прямо на CPU, минуя платные решения и защищая приватность. Источник: https://github.com/gioblu/NPC-Forge/blob/main/docs/development.md
42 просмотров