Катастрофу планетарного масштаба из-за выхода ИИ из-под контроля ожидают через 6-12 мес...
Катастрофу планетарного масштаба из-за выхода ИИ из-под контроля ожидают через 6-12 месяцев. Предотвратить это уже нельзя Руководители OpenAI, Anthropic и других крупнейших разработчиков искусственного интеллекта готовятся к «практически неизбежной» и масштабной катастрофе, связанной с использованием нейросетей в ближайшие 6-12 месяцев. Один из рассматриваемых сценариев – мощная кибератака, способная нарушить работу банков, интернета, электроснабжения и систем водоснабжения. Предотвратить это уже нельзя – мировая экономика слишком сильно зависит от миллиардных вложений в ИИ-инфраструктуру. Об этом 9 октября сообщило издание Axios со ссылкой на руководителей и специалистов ведущих технологических компаний. По данным журналистов, компании уже проводят закрытые учения и моделируют последствия возможных чрезвычайных ситуаций, связанных с искусственным интеллектом. Одним из наиболее вероятных сценариев специалисты называют масштабную кибератаку с использованием искусственного интеллекта. В результате могут оказаться недоступны банковские приложения и платежные системы, нарушиться интернет-соединение, прекратиться подача электроэнергии и воды. При этом рассматриваются два основных источника угрозы. Первый – злоумышленники, использующие возможности нейросетей для автоматизации взломов, поиска уязвимостей и проведения скоординированных кибератак. Второй – автономные ИИ-агенты, способные действовать без постоянного контроля человека. В наиболее опасном сценарии такая система может выйти за пределы тестовой среды, самостоятельно распространяться по компьютерным сетям и продолжать выполнение своих задач вопреки ограничениям разработчиков. По информации Axios, многие представители индустрии считают крупный инцидент «практически неизбежным». И допускают, что серьезная катастрофа может произойти уже в течение 6-12 месяцев. OpenAI уже подтвердила журналистам проведение специальных учений. Во время таких мероприятий сотрудники разбирают различные сценарии развития событий и способы реагирования на них. Компания Anthropic от комментариев Axios отказалась. Просто отключить искусственный интеллект нельзя из-за зависимости мировой экономики от развития искусственного интеллекта. Крупнейшие технологические компании вкладывают огромные средства в строительство дата-центров, развитие вычислительной инфраструктуры и обучение новых моделей. Резкая остановка этой деятельности может привести к значительным экономическим потерям. Кроме того, множество моделей с открытыми весами уже находятся в свободном доступе. Их можно скачивать, запускать на собственных устройствах и использовать независимо от компаний-разработчиков. Поэтому даже запрет на создание новых мощных нейросетей не гарантирует прекращения использования уже существующих технологий. В США обсуждаются различные варианты регулирования, вплоть до временной приостановки разработки наиболее мощных ИИ-систем и обязательного внедрения механизмов аварийного отключения. Однако специалисты сомневаются, что единый механизм остановки всех автономных систем технически осуществим Еще 27 августа OpenAI, Anthropic, Microsoft, Google, Amazon и более 100 других компаний выступили с совместным обращением, призвав правительства и бизнес срочно усилить защиту цифровой инфраструктуры. Особое внимание они предложили уделить больницам, энергетическим объектам, водоснабжению и другим жизненно важным системам. Компании призвали использовать возможности ИИ не только для разработки новых продуктов, но и для выявления уязвимостей, предотвращения взломов и защиты критической инфраструктуры. Фото: pexels Подпишитесь на Ivbg | Ivbg в Telegram