Как не стать жертвой ChatGPT
Как не стать жертвой ChatGPT Чек-лист контроля генеративного ИИ Что случилось. Суды уже наказывали за использование в судопроизводстве придуманных дел. Конечно, написанных с помощью ИИ. Новый интересный виток произошёл в США. Федеральный судья в Миссисипи отменил процесс и наказал всех четырёх адвокатов по делу — обе стороны подали документы с вымышленными прецедентами, сгенерированными ИИ, и не удосужились их проверить. Двоим юристам запретили появляться в этом суде два года и назначили штрафы, всех четверых сняли с дела. Human-in-the-loop, проверка человеком результатов? Юристы про это не слышали. Дорогого стоит увидеть лица клиентов этих «профессионалов». Читать про чужие ошибки забавно и интересно. Но самим оказаться в подобной ситуации совершенно не хочется. Что делать. Первый порыв — запретить использовать генеративный ИИ в чувствительных бизнес-процессах. Но политика запретов выходит боком — сотрудники начинают использовать его уже тайно. И контроль над процессом уходит совсем. Политика использования ИИ должна быть чётко прописана и регламентирована во внутренней нормативной документации (ВНД). Можно использовать для черновиков, саммари, поиска идей. Ограниченное использование (ближе к запретительному) — в ответах регулятору, договорах с клиентами, положениях о продуктах, отчётности в ЦБ. Как контролировать: - Техническая реализация. На рабочих местах сотрудников — прокси/шлюзы, DLP и логирование обращений к ИИ-сервисам на чувствительную тематику. - Верификация. При выявлении использования ИИ в регламентированной ВНД чувствительной задаче, документ и сотрудник получают флаг дополнительной проверки. - Регламент. Все документы должны содержать источники, подтверждающие валидность информации. Без этого документ не выпускается. - Обучение на живых примерах. Раз в квартал — разбор инцидентов с ИИ (как своих, так и чужих) совместно с юристами, рисками и ИТ. Настоящий разбор post-mortem с корректировкой внутренних процессов. А вы ловили коллег на использовании галлюцинаций ИИ?