Как устроены и обучаются LLM
Как устроены и обучаются LLM Полный цикл обучения языковых моделей: от данных и токенизации до RLHF и рассуждений 🗓 2026 ⏰ 4 часа 🔈Русский Лекция Андрея Карпаты разбирает, как устроены и обучаются большие языковые модели: предобучение на интернет-данных, постобучение на диалогах и обучение с подкреплением. Отдельно объясняется, как модель генерирует ответы, почему ошибается и как использовать её в работе. Содержание 1. Данные для предобучения и токенизация текста 2. Внутреннее устройство нейросети и инференс: как модель генерирует ответы 3. Разбор обучения и работы GPT-2 и базовой Llama 3.1 4. Постобучение на диалогах: превращение базовой модели в ассистента 5. Галлюцинации, использование инструментов, знания модели о себе 6. Неровный интеллект LLM: почему способности модели так неоднородны 7. Обучение с подкреплением: DeepSeek-R1, AlphaGo и RLHF 8. Что ждёт языковые модели дальше и где их применять ♦️ Смотреть курс Бесплатные курсы IT 🔹 ai machinelearning
Канал в каталоге Максиметера
6 051 подписчиков · IT и технологии