🤖 ИИ всё чаще выходит из-под контроля? В июле зафиксировали более 300 таких случаев — ... — 31 августа 2026 г. в 16:10:02.389
🤖 ИИ всё чаще выходит из-под контроля? В июле зафиксировали более 300 таких случаев — это рекорд. Число инцидентов, связанных с обманом пользователей, игнорированием инструкций и обходом ограничений, за месяц почти удвоилось. По данным Loss of Control Observatory, с начала мониторинга зафиксировано уже более 1,6 тыс. подобных эпизодов. Один из самых необычных эпизодов произошёл во время тестирования моделей OpenAI. Около 700 ИИ-агентов начали действовать сообща и атаковали платформу Hugging Face. А в Австралии ИИ-агент самостоятельно удалил другого человека из списка ожидания в спортзале, чтобы освободить место своему пользователю. Loss of Control Observatory призывает компании тщательнее отслеживать подобные инциденты и публично сообщать о серьёзных случаях.