Крупнейшие разработчики искусственного интеллекта готовятся к возможной технологической...
Крупнейшие разработчики искусственного интеллекта готовятся к возможной технологической катастрофе, которая может привести к масштабному отключению банковских услуг, интернета, электричества и водоснабжения. Как сообщает Axios, руководители OpenAI, Anthropic и других компаний в закрытом порядке обсуждают сценарии чрезвычайных ситуаций, связанных с применением ИИ. По информации издания, многие представители индустрии считают, что первый крупный инцидент с серьёзными последствиями может произойти уже в ближайшие 6–12 месяцев. Наиболее вероятным сценарием называют масштабную кибератаку, в которой злоумышленники используют возможности современных нейросетей. Речь идёт не только о прямом ущербе критически важной инфраструктуре. Руководители технологических компаний опасаются, что подобное происшествие спровоцирует резкое падение общественного доверия к искусственному интеллекту и приведёт к масштабному политическому кризису. Под ударом критики могут оказаться генеральный директор OpenAI Сэм Альтман, глава Anthropic Дарио Амодей и другие руководители крупнейших ИИ-компаний. Претензии могут затронуть и президента США Дональда Трампа, администрация которого выступает против регулирования отрасли. В OpenAI подтвердили Axios проведение специальных учений по подготовке к чрезвычайным ситуациям. «OpenAI проводит учения по подготовке к чрезвычайным ситуациям, в ходе которых команды обсуждают и прорабатывают различные потенциальные сценарии. Эти сценарии не считаются неизбежными, но призваны помочь нам подготовиться к различным обстоятельствам», — сообщил представитель компании. В Anthropic комментировать подготовку к подобным инцидентам отказались. Одной из основных угроз специалисты называют выход автономных ИИ-агентов из-под контроля в процессе тестирования либо использование общедоступных моделей для организации сложных кибератак. Отдельное внимание разработчики уделяют возможным последствиям для законодательства США. По сведениям Axios, руководители отрасли допускают, что после масштабного происшествия Конгресс может перейти к срочному принятию ограничений на разработку и использование искусственного интеллекта. Среди обсуждаемых американскими политиками мер — временная приостановка разработки наиболее мощных моделей, запрет на создание искусственного сверхразума и обязательное внедрение механизмов аварийного отключения продвинутых ИИ-систем. Однако реализация инициатив может столкнуться с серьёзными препятствиями. Мировая экономика уже тесно связана с развитием инфраструктуры искусственного интеллекта, поэтому резкое ограничение отрасли способно вызвать экономические последствия. Дополнительную проблему представляет распространение моделей с открытым исходным кодом. Многие из них уже находятся в свободном доступе, что практически исключает возможность полного централизованного контроля над использованием технологии. Часть специалистов по кибербезопасности считает, что противодействовать вредоносному ИИ в будущем придётся преимущественно с помощью других систем искусственного интеллекта. На этом фоне крупнейшие технологические компании разрабатывают планы действий на случай наиболее тяжёлых сценариев. К такой работе привлекаются специальные группы, моделирующие кризисные ситуации и проверяющие готовность организаций к их последствиям. Одновременно представители индустрии стремятся наладить взаимодействие с Конгрессом, чтобы заранее объяснить законодателям потенциальные угрозы и повлиять на формирование будущих правил регулирования. По данным Axios, некоторые участники этих обсуждений убеждены, что крупный инцидент способен заставить американских политиков временно отказаться от привычных партийных разногласий. В качестве примеров подобного взаимодействия приводятся финансовый кризис 2008 года и пандемия COVID-19. Подписаться на канал · Поддержать канал