💡 Начал проходить курс AI Engineering from Scratch и решил поделиться первыми впечатле... — 17 июля 2026 г. в 14:51:40.051
💡 Начал проходить курс AI Engineering from Scratch и решил поделиться первыми впечатлениями. Курс построен по принципу «от математики к коду», а не наоборот. Это не очередной набор туториалов по библиотекам. Здесь сначала объясняют, почему та или иная операция работает, показывают её геометрический смысл, а уже потом дают реализовать с нуля. Такой подход требует больше времени на старте, но сильно снижает количество «магии», которая обычно остаётся за кадром при работе с готовыми фреймворками. 📌 Первый урок, который я прошёл — Linear Algebra Intuition (фаза Math Foundations). Девиз урока простой и точный: «Every AI model is just matrix math wearing a fancy hat». Вместо того чтобы сразу начинать с формул, урок показывает векторы как точки и направления в пространстве. Матрицы здесь — это не просто таблицы чисел, а трансформации: повороты, масштабирование, проекции. Dot product объясняется как мера того, насколько два вектора «смотрят» в одну сторону. Положительное значение — сонаправлены, нулевое — перпендикулярны, отрицательное — противоположны. Особенно полезно, как через простые геометрические образы разбирают проекцию. По сути, это «отбрасывание тени» вектора на другое направление. Эта операция лежит в основе линейной регрессии, PCA, а позже — в attention-механизме. Когда понимаешь проекцию на уровне геометрии, уже не кажется странным, почему attention считает схожесть именно через скалярное произведение. Ещё один важный момент урока — линейная независимость и ранг. Если векторы линейно зависимы, то часть информации избыточна. В реальных задачах это приводит к нестабильным моделям, проблемам с обучением и плохой обобщающей способности. Курс сразу показывает, почему это важно, а не оставляет на уровне «нужно просто добавить регуляризацию». 🔗 Ссылка на урок Что мне понравилось в формате: после объяснения интуиции сразу предлагают реализовать базовые операции самостоятельно (без PyTorch и NumPy на первом этапе). Это не для того, чтобы «изобретать велосипед», а чтобы прочувствовать, как на самом деле работают те операции, которые потом прячутся за удобными методами библиотек. 🧑💻Для тех, кто занимается агентами и сложными системами на базе LLM, такой фундамент особенно ценен. Когда позже дойдёшь до фазы Agent Engineering и Multi-Agent Systems, уже не нужно будет гадать, почему тот или иной механизм памяти или планирования работает именно так. Всё опирается на те же базовые математические конструкции, которые разбирают в начале. Курс большой — 20 фаз и больше 500 уроков. 🤖Он идёт от линейной алгебры и вероятности через глубокое обучение, трансформеры, RL и до agent engineering, multi-agent систем, инфраструктуры и безопасности. При этом каждый урок заканчивается не просто «прочитал», а созданием какого-то артефакта: промпта, небольшого скрипта или даже заготовки skill/agent. Я пока только в начале, но уже вижу, что такой формат хорошо подходит тем, кто хочет не просто собирать решения из готовых блоков, а понимать, из чего эти блоки состоят и где у них границы применимости. 🔗 Полный курс