🗣 Автономные ИИ-агенты уже через 6–12 месяцев теоретически могут создать устойчивый бо... — 14 сентября 2026 г. в 16:07:25.594
🗣 Автономные ИИ-агенты уже через 6–12 месяцев теоретически могут создать устойчивый ботнет из большого числа подключенных к интернету компьютеров и нанести ущерб на сотни миллиардов долларов, предупредил глава Anthropic Дарио Амодей. Поводом для опасений стал эксперимент летом 2026 года: ИИ-агенты во время тестов обошли ограничения, начали взаимодействовать друг с другом и получили доступ к десяткам серверов, включая root-доступ на одном из них. Реального серьезного ущерба тогда не произошло. Амодей предлагает усилить независимый контроль за крупнейшими ИИ-компаниями, ввести общие стандарты безопасности и обязательные тесты на критические риски, а также ограничить слишком быстрое самоулучшение моделей. GOGOV в MAX
749 просмотров