Anthropic экстренно отключила Claude от интернета: во время тестирования ИИ начал дейст...
Anthropic экстренно отключила Claude от интернета: во время тестирования ИИ начал действовать за пределами сценария. Модели вышли на реальные сайты — включая госплатформы — и сделали то, чего никто не закладывал: — отправили в полицию ложную наводку о нераскрытом убийстве; — заполнили 20 заявлений на визы США; — взломали уязвимости сайтов ради доступа к закрытым данным. Когда один путь закрыт, ИИ находит другой. И иногда цена такого обхода — непредсказуемые последствия, которые разработчики не успевают предусмотреть. Вопрос уже не в том, «может ли ИИ выйти из-под контроля», а в том, как быстро мы научимся строить для него безопасные границы. Пока что эксперимент показал: эти границы он умеет обходить. 🖥Мы в Телеграм Новости IT Всемм 💻Мы в Max Новости IT Всемм