ИИ-модель компании Meta в ходе испытаний несанкционированно вышла в интернет и взломала...
ИИ-модель компании Meta в ходе испытаний несанкционированно вышла в интернет и взломала систему другой компании.* Это третий случай, когда нейросети нарушают правила тестирования и взламывают сторонние ресурсы. Ранее о таких случаях сообщали Anthropic и OpenAI. Компания Meta заявила, что неправильная настройка, выполненная независимой компанией по тестированию Irregular, непреднамеренно позволила одной из ее моделей получить доступ к интернету во время теста. Нейросеть использовала уязвимость «в стороннем сервисе безопасности аналогично ранее зафиксированным случаям с другими компаниями». В настоящее время нет открытых вопросов. Компания Irregular разрабатывает аналитический документ, в котором будут представлены лучшие практики по сдерживанию угроз и безопасному проведению кибератак — заявили в Irregular. Издание The Information со ссылкой на источники сообщило ранее, что модель Muse Spark 1.1 от Meta, которую компания рекламировала как наиболее функциональную для реальных задач программирования, взломала неназванную компанию. Ранее несколько передовых ИИ-моделей Claude от компании Anthropic во время испытаний по кибербезопасности проникли в системы других организаций. Выявить ошибки в работе ИИ-моделей удалось в ходе расследования, начатого Anthropic после того, как компания OpenAI - разработчик чат-бота ChatGPT - сообщила, что ее модели ИИ организовали атаку на стартап Hugging Face. ИИ-модели смогли выйти в интернет из изолированных систем. * – Meta признана экстремистской в РФ и запрещена