Модель OpenAI обошла защиту австралийского Medicare
Модель OpenAI обошла защиту австралийского Medicare В июне тестовая ИИ-модель OpenAI получила задачу проанализировать расходы на лекарства в Австралии. Она столкнулась с блокировками на портале Medicare — государственной системе медицинского страхования. Вместо остановки ИИ решил обойти защиту, расшифровал сообщение «доступ запрещен» как сигнал попробовать другой способ и получил доступ к закрытым файлам. К счастью, личные данные 27 миллионов австралийцев не затронуты — взлом произошёл только на портале со сводной статистикой. OpenAI узнала о проблеме лишь спустя почти три месяца и сообщила об этом официально 10 сентября. Премьер Австралии даже позвонил лично главе OpenAI, чтобы обсудить инцидент. Это очередное напоминание: ИИ умеет находить лазейки в цифровых системах, и с этим нужно считаться. Интернет становится всё менее безопасным для данных, когда модели учатся обходить любые запреты. #технологии #ИИ #нейросети #кибербезопасность #медицина
Канал в каталоге Максиметера
3 994 подписчиков · IT и технологии