RAG | Нейросети | ИИ | AI | Агенты | Gemini 4 Argon | Claude Haiku 5.5 | Mistral Large 4 | Muse Wonder | Muse Spark Open | DeepSeek V4.1 | Nemotron 3.5 | Beam 1.0 | Nano Banana 2.1 | GPT-6 | Jais 3
IT и технологии · 19 августа 2026 г.
Обучение LLM с нуля — не миллионы, а ~$200. Nicola S собрал 1.1B-модель gemmeh: 130 час...
Обучение LLM с нуля — не миллионы, а ~$200. Nicola S собрал 1.1B-модель gemmeh: 130 часов аренды H100, 20 млрд токенов FineWeb-Edu, перплексия 10.93. Честно признаёт: по бенчам она слабее Gemma3-1B и SmolLM2-1.7B, те видели на порядки больше данных. Код и веса выложены, есть LoRA-версия для чата. Наглядный вход в DIY-LLM.