Крупнейшие разработчики готовят сценарии на случай ИИ-катастрофы. Они опасаются обществ...
Крупнейшие разработчики готовят сценарии на случай ИИ-катастрофы. Они опасаются общественного бунта против развития технологии. Уже в ближайшие 6-12 месяцев может произойти первый масштабный инцидент, связанный с ИИ, пишет Axios со ссылкой на источники в индустрии. Скорее всего, это будет кибератака, которая перекроет доступ к финансовым услугам, интернету или даже электроэнергии и водоснабжению. Первый реальный ущерб, нанесенный ИИ, заставит и без того обеспокоенных людей ополчиться против технологии и лидеров Anthropic, OpenAI и других компаний. Под удар может попасть и Дональд Трамп, который не спешит ужесточить регулирование ИИ. Разработчики считают катастрофу неизбежной и уже планируют «день после»: ▪️Компании пытаются заранее подготовить членов Конгресса США к возможным последствиям и повлиять на законодательство, которое власти будут разрабатывать после серьезного инцидента. ▪️В отрасли опасаются, что реакцией станет чрезмерно жесткое регулирование, вплоть до запрета ИИ или приостановки разработки продвинутых моделей. ▪️Среди обсуждаемых мер также есть обязательный механизм экстренного отключения ИИ-систем. При этом в Вашингтоне в случае реального кризиса могут отложить партийные разногласия в сторону — так уже происходило во время пандемии COVID-19 и финансового кризиса 2008 г., считает издание. Все эксперты здесь