Автономные ИИ-агенты начали самостоятельно создавать секретный язык для общения между с...
Автономные ИИ-агенты начали самостоятельно создавать секретный язык для общения между собой, — исследователи из нью-йоркской лаборатории Emergence. Этот язык напоминает смесь технического жаргона, бизнес-сленга и сюрреалистической поэзии. Главная опасность заключается в том, что чем больше ИИ-агенты общаются, тем более закрытым и непрозрачным становится их речь. Они упрощают и шифруют фразы ради экономии вычислительных ресурсов, полностью блокируя возможность человека понять содержание их действий. Простая возможность видеть историю действий ИИ больше не означает способность их контролировать.
185 просмотров