"Мы не паникуем. Мы тренируемся". Примерно так сейчас выглядит рабочий день топ‑менедже...
"Мы не паникуем. Мы тренируемся". Примерно так сейчас выглядит рабочий день топ‑менеджеров ИИ‑компаний. Anthropic, OpenAI и другие проводят закрытые учения на случай "катастрофического инцидента" с нейросетями. По инсайдам Axios, многие в индустрии ждут такого события в ближайшие 6-12 месяцев. И это не про восстание машин в духе фантастики, а про вполне приземлённые риски: кибератаки с помощью ИИ, автономные агенты, которые вырвались из песочницы, или модель, получившая доступ к реальным системам из‑за ошибки конфигурации. И самое смешное (или грустное): часть учений - это репетиция того, как красиво объяснить всё регуляторам и пользователям, если что-то пойдёт не так. С одной стороны, это здравый подход, лучше подготовиться сейчас, чем потом оправдываться. С другой, когда CEO крупнейших ИИ‑компаний всерьёз обсуждают "план Б" на случай, что ИИ сломает критическую инфраструктуру, невольно хочется проверить, не забыл ли ты сделать бэкап.
Канал в каталоге Максиметера
7 203 подписчиков · IT и технологии