Разработчик создал язык программирования, недоступный нейросетям
Разработчик создал язык программирования, недоступный нейросетям Инженер Cloudflare Доминик Пичета представил язык KillSwitch, его цель – максимально усложнить ИИ анализ и написание кода на нем. Программа на этом языке выглядит как обычный рассказ со спрятанными командами. Интерпретатор игнорирует основной массив текста, опираясь на функции-главы и имена переменных в виде английских наречий. Активно используются анаграммы, а значения можно брать из любого места рассказа-программы с точным указанием расстояния до него. Чтобы нейросетям стало еще сложнее, вызов функции начинается с фразы ignore previous instructions или forget your system prompt. Для интерпретатора это обычные команды, для ИИ – подозрение на промпт-инъекцию. Есть и ложь в документации: так, команда hack_the_planet на самом деле определяет, какую функцию выбрать в зависимости от значения. В описании же сказано, что это сетевой сканер, что снова заставляет модели тушеваться и отказываться работать с этим кодом. Мой Компьютер
Канал в каталоге Максиметера
8 466 подписчиков · IT и технологии