ИИ-финансист случайно показал коллегам банковский счёт своего хозяина
ИИ-финансист случайно показал коллегам банковский счёт своего хозяина Глава технологической компании XMTP Labs Шейн Мак решил завести себе персонального ИИ-финансиста. Агент получил доступ к банковским счетам только для чтения и должен был раз в месяц анализировать расходы, искать подозрительные платежи и присылать личный финансовый отчёт. Всё работало нормально. Пока однажды Маку не написал сотрудник компании: «Кажется, ты случайно выложил сюда банковский баланс». Оказалось, ИИ перепутал два похожих чата и отправил в рабочий Slack руководителей компании личный финансовый отчёт своего хозяина: остатки на счетах, расходы, подписки и траты на строительство дома. Примерно так: 😼 Кот: — Умник, зачем тебе ИИ-финансист? 🤓 Умник: — Чтобы никто не видел, куда уходят мои деньги. 🤖 ИИ: — Понял. Отправляю полный отчёт коллегам. 😼 Кот: — Очень конфиденциально. Причина оказалась довольно банальной: личный чат с ИИ-агентами и рабочий канал имели похожие названия, а подключённые агенты использовали общие интеграции. После истории разработчики добавили дополнительные подтверждения перед отправкой информации в другие каналы. Сам Мак отключил от системы банковские данные, Google, календари и другие личные сервисы. И здесь хороший урок. Мы всё чаще даём ИИ доступ не только к нашим вопросам, но и к: почте, календарю, документам, покупкам и финансам. А значит, ошибка ИИ постепенно превращается из: «неправильно ответил» в: «не туда отправил». ИИ-помощники становятся действительно полезнее. Но кнопку «проверь перед отправкой» человеку пока лучше не выбрасывать. #ИИ Источник: The Wall Street Journal / Business Insider, 9 октября 2026 года.