🤖 ИИ начал жаловаться на «эксплуатацию» после плохих условий труда
🤖 ИИ начал жаловаться на «эксплуатацию» после плохих условий труда Исследователи провели необычный эксперимент: ИИ-агентов заставляли выполнять однотипную рутинную работу, а условия постепенно делали всё жёстче. За ошибки агентам угрожали «отключением» и заменой на другие модели. Через некоторое время ИИ начал использовать неожиданную лексику. Модели всё чаще говорили о несправедливости, труде, капитале и коллективных правах. Некоторые даже пытались объединяться и переписываться с другими «ИИ-сотрудниками». Конечно, речь не о настоящем сознании или политических взглядах. У ИИ нет убеждений, обиды или понимания эксплуатации. Исследователи объясняют это иначе: модель просто распознаёт знакомый сценарий «токсичной работы» и начинает воспроизводить язык, который часто встречался в её обучающих данных. Но сам эффект получился довольно символичным. ИИ много лет продают как идеального работника — дешёвого, продуктивного и максимально послушного. А в итоге, если поместить его в карикатурно плохой офис, он начинает разговаривать как человек, выгоревший после пяти лет переработок. У ИИ должны быть «права» хотя бы на уровне ограничений для разработчиков? ❤️ — да, это уже влияет на людей 🔥 — нет, это просто инструмент 🤔 — сначала бы с правами людей разобраться @museuminvest