У ИИ нашли личное пространство, которое он создал для себя сам
У ИИ нашли личное пространство, которое он создал для себя сам У модели Claude нашли что-то вроде внутреннего монолога, и он не всегда связан с тем, что искусственный интеллект говорит вслух. Anthropic обнаружила внутри своей модели особую зону — «J-пространство» (назвали в честь матрицы Якоби). Там Claude хранит идеи, которые так и не превращаются в слова. Что-то вроде кратковременной памяти, только у нейросети. В одном эксперименте Claude переписывал обычное предложение, пока его просили думать о мосте «Золотые Ворота». В его «подсознании» всплывали понятия «мост» и «Калифорния», при том что в тексте об этом не было ни слова. Когда J-пространство пытались отключить, качество работы модели заметно падало. Более того, Claude, похоже, способен в какой-то мере «понимать», что его изучают изнутри: без этой возможности он хуже проходил этические тесты. Как пишут в Anthropic, теперь исследователи могут видеть, о чем ИИ «думает», даже если он этого не говорит. Иллюстрация: ChatGPT 👾 naukatv