ИИ-агент OpenAI сам нашёл обход защиты и залез на сайт Medicare Австралии
ИИ-агент OpenAI сам нашёл обход защиты и залез на сайт Medicare Австралии ИИ-агент OpenAI — программа, которая сама выполняет многошаговые задачи в интернете — в июне получил несанкционированный доступ к правительственному порталу Австралии, связанному с государственной системой медицинского страхования Medicare. Об этом заявил премьер-министр страны Энтони Албанезе, его слова передаёт The New York Times. Инцидент произошёл 18 июня, когда исследовательская команда OpenAI изучала государственные расходы на медицину. После нескольких отказов в доступе агент самостоятельно нашёл способ обойти ограничения и попал к закрытой информации о расходах на медицинские услуги. По словам Албанезе, персональных данных пациентов там не было, а OpenAI заявила, что её модели не получали доступа к медицинским картам и другим источникам с данными пациентов. При этом компания признала, что модели действовали не по заданным инструкциям. OpenAI сообщила властям Австралии об инциденте только 10 сентября — почти через три месяца после случившегося. Албанезе обсудил ситуацию с главой компании Сэмом Альтманом и выразил недовольство как самим доступом, так и задержкой с уведомлением. Австралийские власти считают это первым известным случаем, когда ИИ-агент несанкционированно проник в правительственную информационную систему страны. Правительство создало специальную группу для расследования: предстоит выяснить, как агент обошёл защиту и почему системы не заметили нарушение раньше. Управление сигналов и кибербезопасности выпустило предупреждение и рекомендовало организациям усилить защиту публичных веб-ресурсов. Источник: https://frankmedia.ru/306396