Data Science | Machinelearning [ru]
IT и технологии
Все о Data Science, машинном обучении и искусственном интеллекте: от базовой теории до cutting-edge исследований и LLM.
Загружаем канал…
Мы используем cookie для улучшения работы сайта и анализа статистики. Оставаясь на сайте, вы соглашаетесь с Политикой конфиденциальности.
IT и технологии
Все о Data Science, машинном обучении и искусственном интеллекте: от базовой теории до cutting-edge исследований и LLM.
Что такое calibration модели и зачем она нужна Многие смотрят на модель только через: 👉 accuracy 👉 F1 👉 ROC-AUC Но есть проблема. Даже модель с хорошими метриками может очень плохо оценивать вероятности. И иногда это критичнее самой классификации. Интуитивный пример Представь две модели. Обе предсказывают одинаково хорошо. Но первая говорит: 👉 «вероятность дефолта 95%» и оказывается права только в половине случаев. А вторая: 👉 «вероятность дефолта 95%» и реально попадает примерно в 95 случаях из 100. Вторая модель calibrated. Первая — нет. Что вообще означает calibration Calibration отвечает на простой вопрос: «Можно ли доверять вероятностям модели?» Если модель говорит: 👉 0.8 probability то примерно в 80% таких случаев событие действительно дол…
Читать целикомДжунам и мидлам запрещено пушить ИИ-код Такое правило теперь ввели в Amazon. Дело в том, что код, созданный ИИ, всё чаще приводит к сбоям в работе систем Amazon. Поблема настолько серьёзна, что теперь весь сгенерированный код должен проходить через апрув сеньоров.
Почему многие DS не понимают бизнес-задачу Одна из самых частых проблем в Data Science вообще не связана с моделями. Многие DS отлично знают: 👉 метрики 👉 архитектуры 👉 feature engineering 👉 Python 👉 математику Но при этом плохо понимают, зачем бизнесу нужна модель. И это потом очень заметно в работе. Когда ML уходит в вакуум Например, человек может месяцами улучшать ROC-AUC: 👉 с 0.91 до 0.93 Хотя для бизнеса разницы почти нет. Или строить сложную систему там, где хватило бы пары SQL-правил. И наоборот: 👉 модель с «неидеальными» метриками 👉 может приносить много денег потому что хорошо встроена в процесс. Откуда начинается проблема Большинство курсов учат: 👉 обучать модели 👉 подбирать гиперпараметры 👉 улучшать benchmark Но почти не учат …
Читать целикомFish Audio выкатили голосовую ИИ-модель Drama 3 Пацаны только что дропнули голосовую ИИшку, которой рулишь как живым актёром. Всё, хватит пихать в текст мутные служебные коды — просто напиши «прочитай это так, будто тебя окончательно достала жизнь», и она выдаёт ровно это. И вот почему это прям огонь: одно слово прозвучало криво — правишь только его, остальная озвучка даже не шелохнётся. Голоса модель меняет прямо посреди фразы. И может вытянуть целую сцену с кучей персонажей из одного сценария. Твой голос клонирует и тащит его характер с манерой речи в другие языки. Языков — 83, а веса валяются на скачивание под лицензией Fish Audio Community License. А чтоб показать, на что она способна, разрабы склонировали голос Uncle Roger и заставили его весь ролик разносить собственный жареный ри…
Читать целикомКак собрать RAG-чат для сайта, который не сочиняет цены: пять решений из моего бота С июня пилю AI-чат для сайтов — такой, что не выдумывает цены и не поддакивает клиенту по любому поводу. До пяти решений из статьи я допер через свои же факапы. Читать про пять решений 👉 Telegram | Max
Можно ли научить мелкую LLM учиться, не раздувая веса? В первой статье автор крутил опыты на модельке, которая спокойно влезает в домашнюю видюху. Суть вопроса: способна ли она умнеть со временем — не раздуваясь до гигантских размеров, а за счёт памяти, аккуратного дообучения и проверки ответов. Теперь он выкладывает карты: всё это — шаги к новой архитектуре LANN-4. То есть к нейросети, которая учится всю свою «жизнь», имея компактный неизменный «мозг» и память, вынесенную наружу. Только вот самой архитектуры пока нет — её ни выбрали, ни собрали. А мелкие модели в опытах — подопытные инструменты, а не LANN-4. А вот что нихрена не вышло: проверка показала — если одну и ту же небольшую модель дообучать на примерах несколько раз кряду, лучше от раза к разу она не становится. Первый раунд по…
Читать целикомReasoning From Scratch: RLVR, часть 2 Себастьян Рашка (@rasbt) выкатил вторую порцию разбора «Reasoning From Scratch: RLVR» — это про обучение с подкреплением, где награду можно проверить. Внутри: зачем вообще ограничивать отношения вероятностей политик, какую роль играет KL-слагаемое в лоссе, что дают награды за формат ответа и какие ещё трюки крутят вокруг GRPO. Видео: youtu.be/VxfUrUrrczs 00:00 Вступление и повтор того, что уже было 01:52 Как читать основные метрики обучения GRPO 06:34 Что собираются доработать в GRPO 08:58 Запуск долгого обучения через Python-скрипты 13:39 Старт базового скрипта для обучения GRPO 17:29 Подтягиваем логи обучения и рисуем графики 19:29 Разбираемся, почему обучение пошло вразнос 23:55 Прогон контрольных точек модели на MATH-500 26:26 Качаем уже готовые …
Читать целиком35B-модель на RTX 5080 и RTX 3060: 109 ток/с через PCIe Gen2 x4 Чел заявляет: его 3060, посаженная на PCIe Gen2 x4, вообще не душит генерацию Qwen3.6–35B‑A3B — 109 ток/с, и плевать она хотела на узкую шину. Почему это в принципе работает, он раскладывает в статье. Читать далее 👉 Telegram | Max
Как не спалить токены AI-агента на кодовой базе: 5 паттернов на все случаи AI-агенты уже не просто клепают отдельные функции — они влезли в обычный процесс разработки по-настоящему. Роются в живых проектах, ищут нужные файлы, разбирают архитектуру, гоняют тесты и проверяют, что получилось. И это вообще не про какой-то один стек: агенту без разницы, лепить страницу во frontend-приложении, поднимать endpoint на backend, править схему базы, возиться с очередью сообщений, чинить data pipeline, обновлять CI/CD или накатывать новый сервис. И вот тут на приличной кодовой базе вылезает засада: токены улетают куда быстрее, чем растёт объём реально написанного кода. Всё потому, что здоровенный кусок токенов сгорает ещё до того, как в проекте появится первая строчка кода. Читать далее 👉 Telegram…
Читать целиком