Mistral выпустила очередного котика — и на этот раз жирного. Буквально: модель называет...
Mistral выпустила очередного котика — и на этот раз жирного. Буквально: модель называется Le Chaton Fat Le Chonk. Это не шутка, это официальное название. Но я хочу поговорить не про название, а про то, что теперь у нас есть ещё одна триллионная модель с API — и это хороший повод разобраться, как вообще выбирать модель под задачу, когда их стало слишком много. Я делаю это с помощью одного промта, который использую сама на разборах и в обучении. Промт для выбора модели под задачу Я работаю с такими задачами: [перечисли 3–5 типичных задач — например, «пишу тексты для соцсетей», «анализирую данные в таблицах», «генерирую идеи для продукта», «разбираю документы на 30+ страниц»]. Вот модели, между которыми я выбираю: [например, Claude Sonnet 4, GPT-4o, Gemini 1.5 Pro, Mistral Large 4]. Для каждой задачи: какая модель справится лучше всего и почему? Учитывай контекстное окно, качество рассуждений, скорость и стоимость. Ответ — таблицей: задача / модель / причина. Вот как это работает на практике: 1. Заполняешь свои задачи честно — не «мне надо умное», а конкретно что делаешь руками каждый день. 2. Вставляешь список моделей, которые реально доступны вам (с учётом бюджета — тот же Mistral Large 4 стоит $1.36/$4.18 за миллион токенов, это не дёшево). 3. Получаешь таблицу — и уже на неё смотришь критически: не слепо следуешь, а проверяешь пару пунктов на практике. Типичные ошибки, которые я вижу: — Берут самую мощную модель на все задачи подряд. Платят за Ferrari, а ездят в магазин за хлебом. — Не учитывают контекстное окно. Mistral Large 4 — триллион параметров, 52 миллиарда активных. Звучит внушительно. Но если ваша задача — обработать 200-страничный контракт, важно знать, сколько токенов влезает в один запрос, а не сколько весит модель. — Сравнивают модели по бенчмаркам, а не по своим задачам. Бенчи — это как рейтинг ресторана на картах: важен, но не гарантирует, что вам понравится именно это блюдо. Дополнительный промт — для быстрой проверки модели под конкретную задачу: Вот моя задача: [опиши]. Реши её. После решения — оцени сам: насколько уверенно ты справился, где были сложности, что мог сделать лучше. Честно, без комплиментов себе. Этот промт я использую, когда хочу протестировать новую модель быстро. Самооценка модели — неожиданно полезная штука: хорошие модели честно говорят, где плавали. Слабые — всегда довольны собой. Mistral Large 4 я ещё сама не гоняла вдоль и поперёк — модель только вышла в превью. Но по первым ощущениям: в одной лиге с топами, но не впереди. Посмотрим, как поведёт себя в реальных задачах, а не на бенчах. 📻 Подписывайся на В эфире радио Свеклана