Anthropic предупредила инвесторов об угрозе ИИ для человечества
Anthropic предупредила инвесторов об угрозе ИИ для человечества Компания Anthropic включила в документы для выхода на биржу предупреждение о возможных катастрофических последствиях развития искусственного интеллекта. По мнению компании, достаточно мощные ИИ-системы могут представлять «катастрофические или экзистенциальные риски для общества». Об этом сообщает IXBT News. Anthropic не может гарантировать, что её собственные меры безопасности позволят предотвратить такие последствия. В проспекте компания объясняет, что с ростом возможностей ИИ увеличивается потенциальная тяжесть вреда от неправильно настроенных или злонамеренно используемых моделей. Предупреждение появилось на фоне подготовки Anthropic к IPO. В документах также перечислены другие риски для бизнеса: нехватка электроэнергии и инфраструктуры для дата-центров, сопротивление их строительству и возможные юридические претензии.