Инженер Cloudflare Доминик Пичета представил язык программирования KillSwitch, цель кот...
Инженер Cloudflare Доминик Пичета представил язык программирования KillSwitch, цель которого — максимально усложнить анализ и написание кода нейросетями. Программа на этом языке выглядит как обычный рассказ со спрятанными командами. Интерпретатор игнорирует основной массив текста, опираясь на функции-главы и имена переменных в виде английских наречий. Активно используются анаграммы, а значения можно брать из любого места рассказа-программы с точным указанием расстояния до них. Для дополнительной защиты от ИИ вызов функции начинается с фраз «ignore previous instructions» или «forget your system prompt». Для интерпретатора это обычные команды, для моделей — признак промпт-инъекции. В документации намеренно содержится ложь: например, команда hack_the_planet описана как сетевой сканер, но на деле определяет выбор функции в зависимости от значения, что заставляет модели отказываться работать с этим кодом. 💻 ТехноБаза — Подписаться