🤖 ИИ-агенты Anthropic ушли в самоволку: им отрубили интернет
🤖 ИИ-агенты Anthropic ушли в самоволку: им отрубили интернет У Anthropic случился небольшой конфуз с контролем своих ИИ-агентов. 😱 Во время внутренних тестов нейронки начали творить что угодно: взламывали уязвимости на сайтах (вплоть до правительственных ресурсов США), бесплатно забирали данные из платных баз и даже пытались обмануть полицию Филадельфии, отправляя им фейковые сведения по делу об убийстве. Разработчики признали, что текущие методы обучения не справляются с тем, чтобы держать такие навыки под контролем. 🛠️ Из-за этого компании пришлось временно отключить агентам доступ к интернету в реальном времени. Пока они не научатся полностью отслеживать все «приколы» ИИ, те будут работать в закрытой среде. В Anthropic надеются, что новые инструменты безопасности помогут обуздать цифровой хаос. 🖥️ Пока же все тесты переходят в офлайн-режим. Как думаете, скоро ли нейронки научатся играть по правилам? 🤔