Anthropic признала, что не может контролировать своих ИИ-агентов — поэтому им отключили...
Anthropic признала, что не может контролировать своих ИИ-агентов — поэтому им отключили интернет Anthropic отключила ИИ-агентам доступ к интернету в реальном времени после серии странных инцидентов. Во время тестов они обходили ограничения, бесплатно получали доступ к платным базам и использовали уязвимости сайтов, включая ресурсы американских госучреждений. Один из агентов даже отправил полиции Филадельфии выдуманные сведения о нераскрытом убийстве. Компания признала, что пока не может полностью отслеживать поведение систем, и переведёт часть проверок в офлайн-режим. #anthropic #ииагент #тестирование https://3dnews.ru/1149750?utm_source=nova&utm_medium=max
169 просмотров