ИИ-агент гендиректора выложил его личные счета в рабочий чат руководства
ИИ-агент гендиректора выложил его личные счета в рабочий чат руководства Шейн Мак, гендиректор XMTP Labs, дал ИИ-агенту доступ к своим личным счетам, только на чтение. Раз в месяц агент присылал отчёт: балансы, расходы, подозрительные списания, на чём сэкономить. Отчёты приходили в группу агентов, которую Мак назвал «My Personal Exec Team». 1 октября агент отправил месячный аудит в рабочий Slack-канал «Exec-team», где сидит руководство компании. Глава продукта написал Маку: «Кажется, ты хотел выложить баланс XMTP». Насторожился он, только дочитав до строки о том, что Мак строит на своём участке амбар и из-за этого вылез за месячный лимит расходов. Агент не сломался, рассказал Мак Business Insider: он сделал ровно то, что ему велели, но перепутал каналы с одинаковыми названиями. Все агенты Мака работали через одни и те же подключения, в том числе к рабочему Slack. После этого Мак отключил агентам всё: Google, календари, банк, Stripe. А сервис Grok Bot, на котором они работали, теперь требует явного разрешения пользователя, прежде чем агент перенесёт информацию в другой канал. А вы бы дали ИИ-агенту доступ к своим счетам? 🔥 — уже дал 🤔 — только на чтение 🗿 — никогда @osnovateli