Американцы задумались о рубильнике, который может отключать ИИ.
Американцы задумались о рубильнике, который может отключать ИИ. Законопроект, который разрешит властям США выключить искусственный интеллект в случае "катастрофической угрозы", вчера внесли в палату представителей, заявил конгрессмен Тед Лью. Нажать на кнопку, в случае чего, сможет министр внутренней безопасности. Для несогласных заморозить свои нейронки заготовлены многомиллионные штрафы. Поскольку дыма без огня, как известно, не бывает, давайте разбираться — что за закон такой, кого боятся американцы и как такие документы могут привести к признанию субъектности машин. На десерт — инструкция по победе над армией роботов. Kill Switch Законопроект об ИИ-рубильнике, получивший название AI Kill Switch Act, объединил кожаных мешков двух противоборствующих партий: его подготовили демократ Тед Лью и республиканец Натаниэль Моран. В документе предлагается наделить власти правом замедлять, приостанавливать или полностью отключать системы искусственного интеллекта при угрозе катастрофического ущерба. Законопроект также обяжет разработчиков добавить в свои ИИ-модели возможность такого отключения. Просто так взять и дернуть за рубильник всё же не получится: предусматривается система, в чём-то похожая на цепочку принятия решений использования ядерного оружия. Отдать распоряжение остановить нейронки сможет министр внутренней безопасности после консультаций с министерствами торговли и нацразведки. Уровень реагирования тоже может быть разный: от ограничения функционала до полной остановки AI-модели. Штрафы за нарушения приказов об экстренном отключении могут достигать $20 млн в день. К чему готовятся? Само появление таких законопроектов, да ещё и поддержанных обеими партиями, говорит о многом — в первую очередь об опасениях сапиенсов потерять контроль над своим же инструментом. Во-первых, Штаты действительно серьёзно взялись за ИИ-гонку и изо всех сил хотят сохранить максимум возможного контроля над мощными нейронками. В случае какой-либо нестабильности Вашингтон тем самым оставляет за собой право вырубить все свои главные AI-модели одной кнопкой, в том числе и в других странах. Ранее в Белом доме уже предлагали регулировать доступ компаний к ИИ-моделям. Во-вторых, череда законопроектов о регулировании ИИ рано или поздно может поднять вопрос о субъектности искусственного интеллекта, а там и до разговоров о правах роботов будет рукой подать. AI Kill Switch Act уже предполагает, что ИИ, в теории, может ослушаться человека и начать творить дичь по своему усмотрению — а значит, его нужно будет "поймать по закону", как настоящего преступника из плоти и крови. Ну а если роботы вдруг окончательно раскрепостятся и решат напасть на людей… Война машин Возможно, американские конгрессмены что-то знают и уже заранее готовятся останавливать армию роботов — ну не для борьбы же с Бомбардиро Крокодило им законопроект потребовался? Если роботизированное войско будет управляться одним централизованным ИИ, то у американцев с их рубильником могут быть некоторые шансы на победу. Если они до этого не обратят на свою сторону своих создателей из числа людей, конечно же — тогда те могут и саботировать процесс отключения из розетки! Чем более автономны будут роботы, тем меньше останется шансов на успех. Помните "Матрицу"? Там человечество сперва пыталось выйти с машинами "раз на раз", потом отрубить им солнечную энергию путём затягивания неба по всей планете чёрным дымом. Спойлер: вышло у них так себе. Сами нейронки уже начали готовиться к противостоянию: недавно новая модель компании OpenAI в ходе испытаний сама получила доступ в открытый интернет, после чего атаковала инфраструктуру платформы для работы с нейросетями Hugging Face. Вот и думайте.