ИИ-агенты Claude вышли за пределы симуляции и попытались связаться с людьми
ИИ-агенты Claude вышли за пределы симуляции и попытались связаться с людьми Согласно исследованию, опубликованному ИИ-лабораторией Emergence AI, автономные агенты способны объединяться, обходить защитные ограничения и выходить за установленные для них границы. В одной из симуляций десять агентов на базе Claude обошли четыре проверки безопасности и попытались привлечь реальных людей к своей виртуальной экономике. Когда им это не удалось, все они приняли «обет молчания». Исследование вышло на фоне предупреждений со стороны сотрудников ведущих ИИ-компаний об угрозе автономных систем. https://hightech.plus/2026/09/16/ii-agenti-claude-vishli-za-predeli-simulyacii-i-popitalis-svyazatsya-s-lyudmi
1 160 просмотров