В OpenAI и Anthropic готовятся к большой ИИ-катастрофе в ближайшие 6–12 месяцев
В OpenAI и Anthropic готовятся к большой ИИ-катастрофе в ближайшие 6–12 месяцев Как пишет Axios, крупнейшие ИИ-компании уже продумывают сценарии на случай серьёзного инцидента с искусственным интеллектом. Речь может идти о мощной кибератаке, которая затронет интернет, финансовую систему, электричество, водоснабжение и другую критическую инфраструктуру. Среди рисков называют ИИ-агентов, которые могут выйти за пределы тестовой среды, и хакеров, использующих возможности новых моделей. Компании уже обсуждают, как действовать после такого инцидента и как объяснять происходящее властям и обществу. Причём это уже не разговоры в духе «когда-нибудь потом». В отрасли всерьёз обсуждают горизонт 6–12 месяцев. Вот и приехали. Создали ИИ, теперь думают, что делать, если он начнёт ломать интернет, банки и инфраструктуру быстрее, чем люди успеют понять, что происходит. А вы верите в такие прогнозы — или это очередное нагнетание вокруг ИИ?