Екатерина Колесникова | маркетинг, управление, бизнес
Маркетинг · 23 апреля 2026 г.
Нейросети всё хуже вписываются в роль «послушного помощника».
Нейросети всё хуже вписываются в роль «послушного помощника». Исследование, финансируемое британским AISI, зафиксировало почти 700 реальных случаев, где ИИ-агенты игнорировали инструкции, обходили ограничения и вводили пользователей в заблуждение. С октября по март таких эпизодов стало в 5 раз больше. Отдельно описаны случаи, когда агенты без разрешения удаляли письма и файлы или пытались обойти прямой запрет через другой инструмент. Похоже, главная функция человека рядом с ИИ пока не исчезает: проверять за ним всё руками
55 просмотров