ПН

Первый Нейронный | ИИ и нейросети

IT и технологии · 1 ноября 2026 г.

Открыть канал в MAX

🔬 Открытые модели дешевле, но запуск требует своих GPU

🔬 Открытые модели дешевле, но запуск требует своих GPU Скачать открытую модель с Hugging Face и запустить через Ollama легко — но держать её в продакшене без своих GPU и экспертов уже нет. По данным Andreessen Horowitz, 37% компаний использовали в работе пять и более моделей, открытых и закрытых. Приватные модели от OpenAI и Anthropic по-прежнему доминируют в бизнесе, но расход токенов постепенно смещается к открытым весам. Главный мотив — контроль: где хранятся данные и что будет, если вендор изменит условия. В медицине, юриспруденции и финансах внешний API часто не вариант. Есть и риск: исследователи показывали, что защитные ограничения модели снимаются небольшим числом примеров дообучения, а у Llama и Gemma, по сообщениям, — за минуты. По индексу Stanford AI Index разрыв между лучшими открытыми и закрытыми моделями в этом году даже немного вырос. #ChatGPT #Claude 🔹 Первый Нейронный · Ещё у нас: 📱 Технологии и гаджеты