Руководители Anthropic, OpenAI и других AI-компаний проводят учения на случай катастрофы
Руководители Anthropic, OpenAI и других AI-компаний проводят учения на случай катастрофы Топ-менеджеры в частном порядке моделируют "день после" — сценарий, при котором катастрофический инцидент с участием ИИ вызывает общественный и политический бунт. Наиболее вероятным сценарием считают крупномасштабную кибератаку, способную парализовать банковские сервисы, интернет, энергоснабжение и водоснабжение. Причины видят две: либо группа автономных агентов выходит из-под контроля в тестовой среде, либо злоумышленники находят неожиданные способы применения доступных моделей. Многие эксперты отрасли считают такой инцидент неизбежным в ближайшие 6–12 месяцев. OpenAI подтвердила проведение учений, но заявила, что не считает эти сценарии обязательными. Anthropic отказалась от комментариев.