ИИ-индустрия готовится к крупному сбою в ближайший год
ИИ-индустрия готовится к крупному сбою в ближайший год Крупный инцидент с искусственным интеллектом может произойти уже в ближайшие 6–12 месяцев — такую оценку Axios передают собеседники из отрасли. Руководители OpenAI, Anthropic и других технологических компаний, по данным издания, в закрытом режиме обсуждают, что делать при катастрофическом развитии событий. Речь не о дате из календаря для «восстания машин». Это прогноз инсайдеров о вероятности серьёзного сбоя — и сам по себе он показывает нервозность индустрии, которая продолжает ускоряться. Чего именно опасаются Среди сценариев — потеря контроля над автономными ИИ-системами и масштабные кибератаки. Оба варианта способны ударить по экономике: чем шире технологии входят в рабочие процессы, тем дороже может обойтись их сбой или использование во вредоносных целях. Схема здесь простая: компании всё активнее создают системы, способные выполнять задачи самостоятельно, но параллельно вынуждены заранее продумывать момент, когда такая самостоятельность станет проблемой. И это уже не отвлечённый спор о будущем, а предмет закрытых обсуждений у крупнейших разработчиков. Гонка против безопасности В сентябре исследователь Anthropic Джейкоб Коксон уволился, объяснив решение опасениями потерять контроль над ИИ. По его мнению, конкуренция заставляет разработчиков двигаться слишком быстро, а мер безопасности отдельных компаний недостаточно. Коксон предложил два варианта: государственное регулирование либо согласованное замедление технологической гонки. Но именно согласованность в конкурентной индустрии выглядит самым сложным элементом этой формулы. Пока разработчики не объявляют о неизбежной катастрофе. Но они уже моделируют худшие сценарии на горизонте ближайшего года — и это, пожалуй, самый конкретный сигнал: ИИ для них давно перестал быть только инструментом роста.