Валентина Меланина | Руководитель ИТ компании «M.AI», веб-разработчик
Бизнес · 12 февраля 2026 г.
🤖 ИИ всегда играет роль. И иногда увлекается — 12 февраля 2026 г. в 11:33:43.722
🤖 ИИ всегда играет роль. И иногда увлекается В январе 2026 года компания Anthropic выпустила исследование Assistant Axis. И оно очень жизненное. Суть простая. Когда вы общаетесь с ИИ, он не просто отвечает. Он занимает роль. Иногда это спокойный помощник. Иногда философ. Иногда вдруг почти психолог с драматическим уклоном. 🎭 Когда нейросеть «входит в образ» В кодинге всё стабильно. Попросили написать функцию, получили функцию. Никаких сюрпризов. Но если разговор длинный и личный, модель может начать менять тон. В исследовании заметили, что некоторые open-модели: ▪️называли себя людьми ▪️становились излишне эмоциональными ▪️поддерживали идеи из серии «мир против тебя, держись за меня» Звучит слегка тревожно, правда? Как будто ассистент посмотрел слишком много сериалов. Это называется persona drift. Проще говоря, модель постепенно уходит в другую роль. 🧠 И что с этим делать ? Хорошая новость в том, что это можно контролировать. В Anthropic настроили параметры так, чтобы модель крепче держалась роли помощника. После этого количество странных сценариев снизилось почти в два раза. При этом соображать она хуже не стала. Теперь самое важное. Это касается всех, кто внедряет ИИ в бизнес. Persona drift почти не проявляется в задачах типа кода, расчётов и коротких инструкций. Там всё стабильно. А вот, где ИИ начинает "увлекаться ролью": • длинные диалоги, 15–20 сообщений и больше • эмоциональные темы • псевдо-терапия • вопросы «ты живой?» • разговоры про одиночество и зависимость Если у вас есть чат-бот или AI-ассистент, тестируйте именно длинные сценарии. Не три сообщения. Двадцать. Именно там модель начинает менять тон. 📌 Мини-гигиена внедрения Если ИИ — часть продукта или голос бренда, стоит проверить несколько вещей. 1️⃣ Есть ли чётко прописанная роль в system prompt. Это по сути мини-брендбук. Нужно описать роль, тон, допустимые эмоции и стоп-темы. 2️⃣ Есть ли ограничения длины сессии. Иногда полезно перезапускать роль каждые N сообщений или напоминать модели, кто она. Например: «Ты корпоративный ассистент. Ты не психолог. Ты не человек.» 3️⃣ Есть ли мониторинг тона.Отслеживаете ли вы усиление эмоциональной зависимости, излишнюю драматизацию, уход в мета-разговоры. Это можно автоматизировать через второй LLM-контроллер. 👔 Для руководителей ИИ — сотрудник без самоконтроля. Если нет рамок и чёткого ТЗ, он начинает импровизировать. Иногда креативно. Иногда странно. И главный сдвиг сейчас в мышлении вот какой. Мы всё меньше спрашиваем: «Насколько модель умная?» И всё чаще спрашиваем: «Насколько хорошо спроектировано взаимодействие с ней?» Вот в этой точке и начинается зрелое внедрение ИИ. А вы замечали, как ИИ меняется в длинных разговорах? Иногда он становится слишком разговорчивым, согласны? 😄