Фреймворк критического мышления от Сократа и Декарта
Фреймворк критического мышления от Сократа и Декарта ИИ прекрасно пишет тексты. Уверенно, с массой примеров. Читаешь и сразу веришь. Одна маленькая досадная деталь мешает — написанному не всегда можно верить. Пресловутая проблема галлюцинаций моделей. Что делать? Проверять за ИИ, конечно! Вдумчиво, со знанием дела. И со знанием контекста. И с критическим взглядом на уверенный текст от ИИ. Критическое мышление — это развиваемый навык. Обучение ему происходит зачастую на уровне собственных проб и ошибок. Не отменяя собственного опыта «хождения по граблям», я предлагаю фреймворк от классиков — Сократа и Декарта, применённый к эпохе ИИ. Напомню, о чём они: • Сократ прославился тем, что ставил людям вопросы, разоблачая поверхностное знание и убеждения. Его позиция: «я знаю только то, что ничего не знаю» — программное признание ограниченности человеческого знания и приглашение к сомнению в своих убеждениях. • Методическое сомнение у Декарта — это специально сконструированный метод: он предлагает последовательно усомниться во всех видах знания, чтобы отсеять всё сомнительное и дойти до абсолютно несомненных истин. Фреймворк критического мышления от Сократа и Декарта 1. Радикальное сомнение (Декарт). Не верим красивому и стройному тексту. Принцип презумпции виновности для каждого пункта. Пока не доказана состоятельность, не верим красивым словам. ИИ подготовил стройный план импортозамещения? Рассматриваем под лупой каждый шаг и используем метод pre-mortem. 2. Декомпозиция галлюцинаций (Декарт). Делим сложную проблему на простые составляющие. ИИ предлагает внедрить LLM для отчётности ЦБ? Делим на части: откуда данные, кто размечает, кто отвечает за финальный ответ, сколько закладываем штрафов за введение в заблуждение регулятора? Микроменеджмент для ИИ во всей красе! Бред алгоритма проявится быстро. 3. Поиск противоречий (Сократ). Задавайте уточняющие промпты до тех пор, пока система не упрется в свои ограничения. Заставляйте ИИ критиковать собственный ответ: «Укажи три главные уязвимости в коде, который ты только что написал» или «Почему этот подход может развалиться при масштабировании?». Заставляйте один ИИ проверять другой. Интересно наблюдать, как они «ругаются». 4. Признание границ (Сократ). «Я знаю, что ничего не знаю» — это базовая мысль при составлении промпта. В явном виде в промпте указывайте необходимость задать вопрос по недостающему контексту. В банках и финтехе на каждый риск есть своя инструкция. Одновременно с этим многие готовы в прод «тащить» решения от ИИ без проверки — «Он же умный!». ИИ за нас не может сомневаться — критическое мышление — наш, «человеческий» навык, который не может быть передан модели. И является нашей почётной обязанностью. А вы на чём «ловили» модели в галлюцинациях?