«Т-Технологии» выпустили модель на базе Qwen, чтобы сделать ИИ-агентов дешевле, но потр...
«Т-Технологии» выпустили модель на базе Qwen, чтобы сделать ИИ-агентов дешевле, но потратили на это 70 млн руб. Компания представила T-Search - русскоязычную модель для многошагового поиска по корпоративным документам. ▫️ Главная задача T-Search - не генерировать финальный ответ, а находить релевантный контекст из корпоративных документов. После этого подготовленные данные можно передать любой языковой модели. Что обещают: ▫️ сокращение затрат на инференс на 20-50% в зависимости от сценария; ▫️ обработку запросов до трёх раз быстрее открытых моделей сопоставимого качества; ▫️ снижение стоимости обработки до пяти раз; ▫️ рост качества поиска до 15% благодаря параллельной работе нескольких агентов; ▫️ запуск модели на одном GPU Nvidia H100. Рынок корпоративного ИИ упирается не в отсутствие сильных LLM, а в стоимость и качество доступа к внутренним данным. ▫️ И именно поиск часто становится слабым местом корпоративных ИИ-агентов: модель может хорошо рассуждать, но уверенно ошибаться, если получила неполные, устаревшие или нерелевантные документы. T-Search предлагает разумно разделить этот процесс. Специализированная компактная модель занимается поиском, а более дорогая языковая модель подключается только после того, как нужный контекст уже собран. ▫️ Реальная ценность решения будет зависеть не от результатов лабораторных сравнений, а от того, насколько стабильно модель сможет находить полные и актуальные данные в запутанных корпоративных базах знаний. Подписывайтесь на AI для бизнеса
Канал в каталоге Максиметера
5 193 подписчиков · IT и технологии