Практически в каждом фильме или сериале из вселенной «Звездных войн» присутствуют дроид... — 30 июня 2026 г. в 16:38:01.485
Практически в каждом фильме или сериале из вселенной «Звездных войн» присутствуют дроиды. Ведут себя они, как правило, странно. С одной стороны, они производят впечатление самостоятельно мыслящих существ, имеющих индивидуальность, а с другой — являются предметами: кому-то принадлежат, хранят верность хозяевам и выполняют их приказы. Чаще всего нам никак не объясняют мотивацию дроидов. Почему некоторые из них готовы по велению хозяина преступать закон? От чего зависит, кого именно они считают хозяином? Как они сами определяют, кому именно хранить верность и чьи приказы выполнять? Кто-то, наверное, скажет: «Да какая разница?» И с точки зрения нормального зрителя будет абсолютно прав. Но с нашей точки зрения вопрос верности дроида — это в первую очередь вопрос кибербезопасности. Дроид — сложная киберфизическая система, повлияв на мотивацию которой атакующий может получить доступ к конфиденциальным данным, а то и вовсе причинить вред настоящему владельцу. В прошлом, 2025 году вышло целых два сериала, создатели которых уделили вопросам принадлежности дроидов некоторое внимание. Нам были представлены две концепции управления мотивацией дроидов. Мы попытаемся рассмотреть обе эти концепции и их недостатки в этом посте. Как обычно, следует предупредить, что в тексте возможны спойлеры. 🤖 «Звездные войны: Опорная команда» (Star Wars: Skeleton Crew) В «Опорной команде» нам впервые показывают концепцию голосового управления мотивацией чужих дроидов. В нескольких случаях человек, не являющийся формальным владельцем дроида, старается повлиять на его поступки, пытаясь ввести дроида в заблуждение. В целом создается впечатление, что на появление этой концепции повлияли современные нам чат-боты на базе больших языковых моделей (LLM) — уж больно это похоже на попытки «джейлбрейка», то есть атаки на модель, с целью обойти ограничения безопасности или встроенные фильтры. 🤖 Безымянный дроид, работающий прислугой Ферн, десятилетняя девочка, хочет, чтобы ее мать думала, будто Ферн пришла домой рано и занималась учебой в своей комнате. Проблема в домашнем дроиде, который знает, что это не так. Поэтому Ферн использует команду «переопределения памяти» (Run memory override) и подсовывает дроиду не соответствующую действительности информацию в достаточно абсурдной формулировке «я была дома, просто ты меня не видел». Тот факт, что этот метод срабатывает, говорит нам о двух проблемах. Во-первых, дроид принимает команду о перезаписи памяти от Ферн, а следовательно, у него либо не реализован контроль учетных записей, либо неправильно настроены права. Формальным владельцем дроида является мать (в противном случае манипуляции с памятью не имеют смысла), но тем не менее он принимает потенциально опасную команду от Ферн. Во-вторых, домашнему дроиду, присматривающему за ребенком, не помешало бы встроить функцию родительского контроля. 🤖 Пиратский дроид SM-33: мотивация Дроид SM-33 своим владельцем считает капитана корабля «Зола оникса» (Onyx Cinder). То есть он хранит верность не конкретному человеку, а роли. При этом для определения законности права занимать эту роль используется некий пиратский кодекс. Нам, к сожалению, не объясняют весь кодекс, но цитируют несколько постулатов из него. Во-первых, согласно программе SM-33, не бывает корабля без капитана (если капитана нет, то кто-то должен занять его место). Во-вторых, человек победивший капитана, сам законно становится новым капитаном. В-третьих, если брошен вызов, то дроид не может помочь активному капитану, а ждет исхода поединка. Ну и в-четвертых, один человек может быть капитаном только одного корабля — если человек принимает командование другим судном, он автоматически теряет статус капитана первого. Трижды SM-33 меняет владельца, строго следуя этому кодексу. Продолжение — читать по ссылке в блоге.