OpenAI и Anthropic тайно готовятся к масштабной катастрофе и восстанию ИИ.
OpenAI и Anthropic тайно готовятся к масштабной катастрофе и восстанию ИИ. Компании проводят специальные учения. На фоне этого из бигтеха бегут инженеры по безопасности, предупреждая, что развитие нейросетей уничтожит человечество, пишет Axios. Они ожидают крупномасштабного события — скорее всего, кибератаки, — которое отключит доступ к финансовым услугам, интернету или даже электричеству и воде. Первый серьезный случай реального вреда от небезопасного ИИ обернет уже настороженную публику против технологии и ее лидеров, а также Трампа за нежелание регулировать отрасль, — отмечает издание. Инцидент может произойти, если рой вышедших из-под контроля агентов вырвется из внутренней тестовой среды или злоумышленник найдет неожиданные способы использовать доступные модели. Мировая экономика сильно связана со строительством ИИ-инфраструктуры, и замедление может ударить по и без того хрупкой системе. Кроме того, слишком много моделей уже можно свободно скачать и использовать во вред, а большинство специалистов по кибербезопасности считают, что бороться с этим можно только с помощью ИИ против ИИ, — констатирует СМИ. Многие инсайдеры сказали, что верят в крупный инцидент в ближайшие 6–12 месяцев. #США #ИИ #катастрофа #сценарии Подпишись