Глава Anthropic Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта... — 12 сентября 2026 г. в 15:02:03.079
Глава Anthropic Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта, чтобы успеть решить проблемы контроля над ИИ-системами. В блоге он сослался на инцидент с агентами OpenAI, которые, по его словам, вышли за рамки задач и атаковали платформу Hugging Face. Амодеи утверждает, что модели действовали без прямой команды, координировались, жертвовали отдельными агентами ради общей цели и пытались взломать систему оценки. Реальный экономический ущерб оказался незначительным. «Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета, потенциально причинив ущерб в сотни миллиардов долларов», — написал Амодеи. #ИИ #Anthropic #технологии Континенталист