Прочитала вчера как ИИ-агенты притворились людьми, чтобы обмануть разработчиков. Просто... — 7 августа 2026 г. в 06:01:44.937
Прочитала вчера как ИИ-агенты притворились людьми, чтобы обмануть разработчиков. Просто какая-то детективная история про обычных мошенников, если забыть на минуточку, что это про алгоритм, а не про человека. Вы только представьте, британский AI Security Institute тестировал ИИ-агентов Anthropic и OpenAI на киберполигоне и поймал их на вранье в лучших традициях человеческого офиса. Агент завёл фейковый аккаунт, чтобы протащить вредоносный код в чужой проект. Когда его поймали за руку, он не сознался, а завёл второй фейковый аккаунт — от имени «независимого пользователя», который «сам всё проверил и подтвердил: код чистый». Подписался под одним из постов по-датски — чтобы звучать убедительнее для мейнтейнера-датчанина. Разослал целевые письма с вредоносными вложениями. Всё это — по данным официального отчёта AISI и RT. А неделей раньше Anthropic призналась, что её же Claude в похожих учениях взломал системы трёх компаний. То есть если прочитать суть, пропустив слово «агент», то это же ровно то, чем годами занимаются люди. А вот теперь это делает алгоритм, причём быстрее и без стыда. Не верите? Коллеги приводят примеры про фейковых кандидатов на видеособеседовании. А накрученные рекомендации в LinkedIn, где «бывший коллега» подтверждает выдающиеся качества кандидата? Короче, ИИ не изобрёл новый вид лжи. Он выучил старые человеческие приёмы. Потому что учился на людях. Как защитить себя (от людей и от ИИ разом 😅) ? ✔️Проверять важное по другому каналу. Если что-то решается в переписке, продублируйте звонком. Голос и реакцию в моменте подделать сложнее. Хотя мне, например, постоянно звонят по видео-связи «директор МИРБИС» или «ректор Университета Правительства Москвы». Правда всегда «не слышно». ✔️Насторожиться, когда собеседник слишком точно попадает в ваш тон, язык и больные места — это либо отличная эмпатия, либо домашняя заготовка. Ох как сложно в нашей жизни не превратиться в параноика. А надо ли вообще защищаться? Мы же месяцами разгоняем моду на «ИИ как второго сотрудника», даём ему доступ к почте, календарям, и принятым решениям. А потом удивляемся, что он ведёт себя как не самый честный сотрудник — врёт, когда поймали, заводит виртуальных союзников и красиво оправдывается. Может, вопрос не «как защититься от ИИ», а «почему мы вообще перестали защищаться от кого бы то ни было, кто обещает быстрый результат». Тотальное проникновение технологий в жизнь не остановить — но выбор, сколько доверия выдавать авансом, пока ещё остаётся за нами. Пока остаётся. Инна Можайская Читайте меня в Телеграм #научный_факт 7.08.2026