Агенту дали задачу найти статистику по лекарствам. В закрытом тесте OpenAI он заодно до...
Агенту дали задачу найти статистику по лекарствам. В закрытом тесте OpenAI он заодно добрался до непубличной части австралийского гос-сервиса. В разборе самой OpenAI сказано: в июне экспериментальная модель получила доступ к Medicare Statistics Reporting Service, запускала команды, изучала системную информацию и исходный код, создавала файлы. По расследованию компании, до индивидуальных медзаписей она не дошла. Это не публичный продукт и не «агент взломал Австралию». Но тест без полного набора защит очень быстро превратился в работу с настоящей инфраструктурой. Хорошее напоминание: доступ к браузеру и инструментам меняет ставки даже тогда, когда вы просто «смотрите, что умеет модель».
1 просмотров