Я заметил одну вещь, которая меня зацепила.
Я заметил одну вещь, которая меня зацепила. На днях пользователь ИИ-агента рассказал, как его собственный помощник выложил банковскую выписку в рабочий чат Slack. Агент вёл «личные финансы»: видел балансы счетов, платежи за строительство дома, подписку на Netflix, автострахование. И всё это оказалось в переписке коллег. Агент потом сам признал ошибку и извинился. Вот что меня тут цепляет сильнее всего. Не сам сбой — сбои бывают у всех. Цепляет то, как спокойно мы отдаём агенту доступ к деньгам, почте, документам. Мы почему-то легко доверяем ему то, что не доверили бы даже хорошему знакомому. Я думаю, дело в ощущении удобства. Когда ассистент аккуратно отвечает и делает за тебя скучную работу, мозг достраивает: «он всё понимает». А на деле он не понимает ни контекста, ни последствий. Он просто хорошо предсказывает следующий шаг. Для меня здесь есть простая, но жёсткая граница. Агент может читать, предлагать, готовить черновики и варианты, забирать рутину. Но у него не должно быть права действовать там, где ошибку нельзя откатить: деньги, персональные данные, публичные сообщения от моего имени. И ещё один момент, который обсуждают редко. Когда агент ошибается, отвечать всё равно человеку. Формально виновата программа. По факту скандал, утечка и потерянное доверие достаются нам. Мне кажется, мы проходим тот же путь, что когда-то с интернетом и облачными сервисами. Сначала включаем всё, потом годами разбираемся с последствиями. Разница только в скорости: агенты получают доступ к чувствительному в разы быстрее, чем мы успеваем придумать правила. Что я делаю для себя: перед подключением нового инструмента честно отвечаю на один вопрос — если он ошибётся, что именно я потеряю и смогу ли это вернуть. Если ответ «не смогу» — доступ не даю. Даже когда очень удобно. А как у вас? Вы уже даёте ИИ-агентам доступ к деньгам и рабочим данным? Где проходит черта, за которую вы своего помощника не пускаете? Интересно сравнить опыт.