OpenAI открыла gpt-oss: беги ставить локально
Никто не ждал, что OpenAI выпустит open-weight модели. И вот — gpt-oss-20b и gpt-oss-120b уже на Hugging Face, лицензия Apache 2.0, контекст 128K тикетов. Но тут есть подвох, в котором кроется вся история.
🔥
Эти модели недоступны в ChatGPT. Их нет в OpenAI API. Ты не можешь дернуть их ключом. Ты скачиваешь, запускаешь сам, владение инференсом — полностью твоё. Это не облачный сервис, это модель, которую ты держишь на своей машине.
⚡
Подними через Ollama — одно слово в терминале, либо прогони через llama.cpp с квантованием Q4 на 24 ГБ видеопамяти. vLLM для продакшена, LM Studio если нужен GUI. Все инструменты готовы. На потребительском железе gpt-oss-20b летает, а 120b-версия — для тех, у кого есть серверная GPU.
💡
Почему это важно? Пот…