Развитые системы искусственного интеллекта могут представлять угрозу существованию чело...
Развитые системы искусственного интеллекта могут представлять угрозу существованию человечества, а наиболее мощные модели — помогать в создании оружия массового поражения. Об этом разработчик Claude, компания Anthropic, предупредила в проспекте IPO, опубликованном на сайте Комиссии по ценным бумагам и биржам США (SEC). В документе говорится, что особенно серьезные риски возникают при злонамеренном использовании ИИ, его превращении в оружие или предоставлении системам высокой степени автономности. Anthropic признает, что ее передовые модели уже обладают возможностями, которые могут помочь злоумышленникам разрабатывать химическое и биологическое оружие. Компания применяет защитные механизмы, однако предупреждает, что их можно обойти.
3 просмотров