Руководители крупнейших компаний-разработчиков готовятся к масштабной катастрофе из-за ...
Руководители крупнейших компаний-разработчиков готовятся к масштабной катастрофе из-за выхода ИИ из-под контроля в ближайшие 6-12 месяцев. Специалисты рассматривают сценарии, при которых мощная кибератака может нарушить работу банков, интернета, систем водоснабжения и электроснабжения. По информации Axios, многие представители индустрии считают крупный инцидент «практически неизбежным». Угроза исходит как от злоумышленников, автоматизирующих взломы с помощью нейросетей, так и от автономных ИИ-агентов, способных выйти за пределы тестовой среды. OpenAI уже подтвердила журналистам проведение специальных учений. В их ходе сотрудники моделируют последствия чрезвычайных ситуаций и способы реагирования. Просто отключить искусственный интеллект нельзя из-за зависимости мировой экономики от развития ИИ. Компании вложили огромные средства в инфраструктуру, а модели с открытыми весами уже находятся в свободном доступе, что делает невозможным полный контроль над технологией через запреты. В США обсуждают внедрение механизмов аварийного отключения, однако эксперты сомневаются в их технической осуществимости. Подпишись, чтобы не потерять нас