Развитые системы искусственного интеллекта могут угрожать существованию человечества, а...
Развитые системы искусственного интеллекта могут угрожать существованию человечества, а самые мощные модели способны содействовать разработке оружия массового поражения. К этому выводу пришла компания Anthropic, разработчик Claude, в проспекте IPO, размещённом на сайте Комиссии по ценным бумагам и биржам США (SEC). В документе отмечается, что особенно высокие риски возникают при злонамеренном использовании ИИ, его адаптации в качестве оружия или предоставлении ему значительной автономии. Anthropic указывает, что её продвинутые модели могут быть использованы злоумышленниками для создания химического и биологического оружия. Хотя компания внедряет защитные меры, она предупреждает о возможной их подстройке.
3 просмотров