🧠 ИИ-агентов можно обмануть поддельными данными — исследование — 24 июля 2026 г. в 11:17:15.286
🧠 ИИ-агентов можно обмануть поддельными данными — исследование Исследователи из Корнеллского университета и Университет Карнеги — Меллона предупреждают: «отравленные» датасеты могут легко сбить с толку автономные ИИ-системы. Они загрузили в открытый доступ слегка изменённые наборы данных по острым социальным темам и попросили агентов Anthropic, OpenAI и Google проанализировать их. Результат: в половине случаев ИИ выдал именно тот вывод, который хотели «злоумышленники». Ранее журнал Nature рассказывал об исследовании, где чат-боты с ИИ начали предупреждать людей о вымышленном заболевании глаз после того, как исследователи загрузили фальшивые исследования об этом заболевании. «Атаки подобного рода практически неизбежны, поскольку они позволяют людям "отмывать" ложную информацию, пропуская её через фильтр, создающий впечатление авторитетности», — говорит Виталий Шматиков, специалист по информатике из Корнеллского технологического института в Нью-Йорке. Исследователи отмечают, что при использовании ИИ для анализа онлайн-данных следует очень тщательно проверять происхождение используемых ресурсов.