Как я даю ИИ-агентам доступы и почему не боюсь за свои данные
Как я даю ИИ-агентам доступы и почему не боюсь за свои данные ㅤ Раз уж на этой неделе мы говорим про критические риски и зависимости, хочу затронуть еще одну тему — доступы, которые я выдаю ИИ-агентам. ㅤ Когда на прошлой неделе я написала пост про то, что нейросеть делает мне финансовую отчетность и для этого я дала ей доступ к банковским операциям по API, мне написало довольно много людей примерно с одним вопросом: «Как вообще можно дать нейросети доступ к банку?» 😱 ㅤ Расскажу, как я на это смотрю и какие правила использую сама. ㅤ 1. Ограничивать доступ по API только тем, что действительно требуется ㅤ Когда вы выдаете API-ключ, в настройках обычно можно выбрать, какие именно операции будут доступны. ㅤ Например, моему финансовому боту для составления отчета потребовалось всего 3 вида доступа: просмотр реквизитов, просмотр остатка по счету и получение выписок. ㅤ Всё остальное — создание и подписание платежей, оплата через СБП, создание счетов и документов — выключено. То есть даже теоретически ИИ-агент не может сделать то, на что у него нет разрешения. ㅤ 2. Запрещать критические действия без согласования ㅤ В настройках самого агента у меня тоже стоят жесткие ограничения. Например, он не имеет права ничего удалять без моего согласия. ㅤ Если агент решит, что какой-то файл, запись или данные нужно удалить, сначала он должен спросить разрешение. И только после того, как я явно подтвержу это действие, он может его выполнить. ㅤ 3. И самое главное — думать головой ㅤ Многие риски, о которых мне писали, совершенно не надуманные. Нейросеть действительно может затронуть нужные данные, что-то удалить, перезаписать или испортить. ㅤ Поэтому каждый раз, когда я выдаю агенту новый доступ или разрешаю выполнять какие-то операции, я стараюсь заранее подумать: а что самое плохое он теоретически сможет здесь сделать? И как сделать так, чтобы он этого сделать не смог? ㅤ В случае с моим финансовым ботом схема сейчас выглядит так: доступ по API к банку жестко ограничен. Один раз в месяц бот получает банковские операции, переносит их в Google Таблицу, доступ к которой есть только у меня, а затем присылает мне отчет о доходах, расходах и прибыли в личные сообщения бота, доступ к которому тоже есть только у меня. ㅤ Критических рисков в этой схеме лично для себя я не вижу. Остается, конечно, гипотетический риск утечки данных. На 100% обезопасить себя от него невозможно. ㅤ Можно взломать Telegram, Google-аккаунт или сервер в Германии. Но это уже не столько риски использования ИИ-агента, сколько общие риски, связанные с безопасностью и конфиденциальностью цифровых данных. ㅤ В своей автоматизации я сейчас придерживаюсь принципа: быть осторожной и внимательной, но не доводить осторожность до абсурда, при котором вообще ничего не автоматизировать. ㅤ Потому что автоматизация экономит мне настолько много времени и ресурса, что даже с учетом возможных косяков для меня пока профит значительно выше. ㅤ Возможно, это моя предпринимательская толерантность к риску. А возможно, моя любознательность просто не знает границ 😅 ㅤ Здесь каждый сам выбирает допустимый для себя уровень риска и сам несет ответственность за этот выбор. Например, я не даю ИИ-агенту доступы к почте писать за меня письма, не даю доступ к Telegram API отвечать за меня на сообщения. Пока для меня это несет риски, к которым я не готова. Но знаю многих, кто дошел и до этого уровня. ㅤ А вы что думаете на этот счет? Уже сталкивались с ситуацией, когда нейросеть или ИИ-агент что-нибудь удалил, перезаписал или испортил? 🗨️ Вступить в чат в МАХ ⚡️База знаний "Навигатор по МАХ"