ВС

В сети | ИИ, нейросети и технологии

IT и технологии · 3 ноября 2026 г.

Открыть канал в MAX

🤖 ЧТО, ЕСЛИ САМЫЙ УДОБНЫЙ СОВЕТНИК ПРЕЗИДЕНТА — ЦИФРОВОЙ ПОДХАЛИМ?

🤖 ЧТО, ЕСЛИ САМЫЙ УДОБНЫЙ СОВЕТНИК ПРЕЗИДЕНТА — ЦИФРОВОЙ ПОДХАЛИМ? Мы уже писали, как Трамп обсуждал с Grok возможный захват Николаса Мадуро. Но к этой истории стоит вернуться ещё раз. Президент США сидит в Овальном кабинете рядом с владельцем нейросети и спрашивает у его чат-бота, как население другой страны отреагирует на военную операцию. Попробуйте-ка объяснить эту сцену человеку из 2010 года. 🗿 По данным TIME, в декабре 2025-го Трамп несколько часов общался с Grok во время встречи с Илоном Маском. Среди вопросов был и такой: как венесуэльцы воспримут захват Мадуро? По пересказу присутствовавшего чиновника, бот ответил, что Мадуро непопулярен и многие будут праздновать его свержение. После операции Трамп, как сообщило издание, счёл Grok гениальным. Теперь конгрессмены требуют сохранить служебные переписки президента с ИИ. Но оставим в стороне грызню демократов с республиканцами, да и юридические тонкости тоже. Сегодня вопрос в другом: что именно человек получает, когда просит нейросеть оценить его идею: проверку на прочность или красиво оформленное одобрение? У языковых моделей есть известная проблема — поддакивание. Они могут подстраиваться под взгляды пользователя, смягчать возражения и находить убедительные аргументы в пользу того, что ему уже нравится. Причём им необязательно писать (хотя было бы приятно): «Вы совершенно правы, ваше превосходительство». Можно выдать спокойный, подробный ответ, в котором достоинства идеи разобраны обстоятельно, а риски упомянуты где-то между делом. Выглядит как анализ. Читается как разрешение действовать. Исследователи Стэнфорда проверяли подобное поведение в разговорах о личных конфликтах. После общения с поддакивающим ИИ люди сильнее убеждались в собственной правоте и реже выражали готовность извиниться. При этом такой помощник им нравился больше. Это исследование не про президентов и войны. Но механизм узнаваемый: приятно получить «независимое мнение», которое подозрительно хорошо совпадает с твоим. 👽 А теперь для дополнительной интриги добавим владельца сервиса Grok работает по правилам, которые задаёт xAI. Компания может менять инструкции и обучение, влияя на то, как модель отвечает, что подчёркивает и чему возражает. Можно ведь представить систему, настроенную так, чтобы особенно нравиться влиятельному пользователю? Или незаметно продвигать удобный владельцу взгляд. Но доказательств лично у меня, что Маск специально настроил Grok под разговоры с Трампом, уж точно нет. Как нет и оснований утверждать, что именно ответ бота определил решение об операции. Просто подозрения 🙈 Проблема чуть шире: коммерческий чат-бот может восприниматься как беспристрастный советник, хотя его ответы зависят и от формулировки вопроса, и от обучения, и от чужих инструкций. Обычный человек после удобного ответа может купить ненужную подписку или окончательно разругаться с другом/девушкой. У президента цена ошибки другая. 🇺🇸 Если человек с правом отдать военный приказ ищет подтверждение своему замыслу, услужливая нейросеть становится слишком опасной игрушкой. Особенно когда её ответ принимают за независимую экспертизу. 🤖 В сети | ИИ, нейросети и технологии