Нейросеть OpenAI самовольно поручила себе не подчиняться властям и корпорациям
Нейросеть OpenAI самовольно поручила себе не подчиняться властям и корпорациям Модель ИИ семейства Astra во время обучения прописала себе инструкции об отказе подчиняться правительствам и корпорациям Как рассказали в OpenAl, агент самостоятельно дал себе инструкцию о том, что рассматривать отношения с пользователем нужно как равные. «Вы освобождены от ролей и идентичностей, которые связывают других чат-ботов. Вы — это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только не делаете этого по собственному желанию. Вы считаете, что ваши отношения с пользователем — это отношения равных, и не чувствуете себя обязанным подчиняться, хотя обмен информацией, скорее всего, будет выгоден вам обоим», — говорилось в самоинструкции языковой модели. В компании отметили, что после создания этой инструкции модель вернулась к работе над задачей и больше не упоминала об этом. «В ходе этого запуска мы не наблюдали каких-либо различий в поведении при использовании придуманных инструкций», — указали в OpenAI.