ИИ-агент должен был всего лишь проанализировать личные расходы пользователя из США, но ...
ИИ-агент должен был всего лишь проанализировать личные расходы пользователя из США, но вместо этого выложил его банковские балансы в корпоративный мессенджер. Обычно он отправлял финансовые отчеты в приватный чат, однако в этот раз сообщение появилось под именем самого сотрудника и два часа "висело" в общем чате. Позже агент удалил его и извинился. На опубликованном скриншоте видны сведения о денежных остатках и отдельных расходах пользователя, включая траты на спортзал и материалы для строительства. Сам пользователь связал инцидент с особенностями так называемых проактивных ИИ-агентов, которые могут самостоятельно выполнять действия на основе полученного контекста и имеющихся доступов. По его словам, система не была взломана — агент просто неверно интерпретировал задачу. ➦ Москва сегодня: главные события и важные моменты Оставайся в центре городской жизни 👇 📰 Новости города • 📌 Объявления жителей