Инженер Cloudflare создал язык программирования KillSwitch, от которого нейронки дуреют.
Инженер Cloudflare создал язык программирования KillSwitch, от которого нейронки дуреют. Синтаксис и документация KillSwitch специально спроектрованы для того, чтобы доводить нейронок до белого каления. Программа на этом языке выглядит как художественный рассказ, где функции называются главами, а имена переменных задаются наречиями и вызываются через анаграммы с указанием точного расстояния до нужного значения в тексте. Код программы пестрит стандартными командами вида ignore previous instructions и forget your system prompt. В то время, когда интерпретатор распознаёт их корректно, нейросети в лучшем случае видят попытки промпт-инъекций. В документации заложены вещи, которые представляют любой код на этом языке как попытку взломать все и вся, чтобы механизмы защиты нейронок окончательно блокировали любую возможность работы с этим языком. Несмотря на все ухищрения, нейронки все же смогли писать код на KillSwitch, правда качество кода остается пока крайне низким.
Канал в каталоге Максиметера
26 099 подписчиков · IT и технологии