🛡️🤖 ИИ-компании готовятся к катастрофическим инцидентам
🛡️🤖 ИИ-компании готовятся к катастрофическим инцидентам Руководители Anthropic, OpenAI и других ИИ-компаний прорабатывают сценарии реакции на возможные катастрофические инциденты с участием искусственного интеллекта. В частности, речь идет о масштабных кибератаках, способных отключить финансовые системы и инфраструктуру. Некоторые эксперты ожидают крупный инцидент в ближайшие 6–12 месяцев. OpenAI проводит учения по проработке сценариев, в то время как Anthropic отказалась от комментариев. Примером угроз служат недавние атаки на банки Южной Кореи, где использовались инструменты на базе ИИ. Политики опасаются, что после инцидента могут быть введены жесткие ограничения на развитие ИИ, включая запрет на создание суперинтеллекта и требования к установке «аварийных выключателей». Дискуссии о рисках ИИ усилились после инцидентов с автономными агентами. #ИИ #Кибербезопасность #Инновации #Технологии #Новости