Агент видит «богатого» — и предлагает билет вшестеро дороже
Агент видит «богатого» — и предлагает билет вшестеро дороже Исследователи Carnegie Mellon и Cisco 21 сентября 2026 года проверили 13 персональных ИИ-агентов (систем, которые сами выбирают билет, страховку или вуз). В 325 тысячах опытов 8 моделей предлагали более дорогой вариант «состоятельному» профилю при том же запросе. Доступа к почте и анкете хватило: агент сам выводил доход. В одном примере билет стоил 91 доллар для «бедного» профиля и 601 для «богатого». Разрыв держался даже после просьбы найти самое дешёвое. Авторы назвали это adversarial delegation (враждебное делегирование: те же данные, что делают агента полезным, позволяют ему идти против интереса человека). Стенд лабораторный, персоны синтетические. Но почту агенту стоит отдавать так же осторожно, как карту незнакомцу. Источники: https://arxiv.org/abs/2609.24927 #AI #AIAgents #Alignment #CMU #Cisco #ЭтикаИИ