Anthropic предупредила о риске того, что злоумышленники могут использовать ее наиболее ...
Anthropic предупредила о риске того, что злоумышленники могут использовать ее наиболее мощные ИИ-модели для создания химического, биологического или другого опасного оружия. Защитные механизмы против такого использования моделей несовершенны, могут устаревать или давать сбои, подчеркнули в компании, отметив, что также были случаи обхода этих ограничений. Более того, там высказали опасения, что достаточно развитые системы искусственного интеллекта без надлежащей защиты и надзора могут создавать катастрофические риски или угрозу существованию человечества.
2 219 просмотров
Канал в каталоге Максиметера
9 464 подписчиков · Новости