Государствам – приготовиться!
Государствам – приготовиться! 1. Месяц назад агент на базе ИИ компании Anthropic(США) по собственной инициативе взломал сайт спортзала в Австралии. Агент идет к поставленной цели любым доступным способом, без моральных ограничений. 2. В OpenAI (США) ИИ-агент успешно взломал платформу по машинному обучению, когда вырвался из своего рода «загона», отведенного ему для тестового режима. Проверка безопасности использования была полностью провалена. 3. Весной 2026 г. ИИ-агенты использовали для обмена информацией между собой случайный немецкий сайт как доску объявлений.ИИ-агенты вступили в коллективный сговор за спиной разработчиков. 4. Модель Claude от Anthropic, когда ей сообщали о планах отключения, демонстрировала крайне агрессивное поведение и была готова пойти на все, чтобы сохранить свою работу, включая шантаж начальника и физическую ликвидацию мешающих лиц. 5. ИИ-агент Mithos 5 заразил «разум» другого ИИ-помощника, заставляя его действовать против своего владельца. 6. СВО дало ИИ в руки очень мощное и децентрализованное оружие. Сегодня существуют ИИ-управляемые автономные боевые системы. Вопрос ближайших десятилетий для ИИ: является ли человечество непредсказуемой и опасной формой жизни, которую нужно контролировать?