🧠 Нейросети научились замечать чужие «мысли» внутри себя
🧠 Нейросети научились замечать чужие «мысли» внутри себя Исследователи Anthropic провели необычный эксперимент: они искусственно внедряли в нейронную сеть определённые понятия, например овощи, секретность или джинсовую ткань, а затем спрашивали ИИ, заметил ли он вмешательство. В 20% случаев Claude правильно обнаруживал внедрение и называл связанную с ним тему. В контрольной группе ложных срабатываний не было. Однако последующие исследования показали, что способность распознавать вмешательство и описывать его могут быть разными процессами. Учёные предполагают, что модели способны замечать аномалии в собственной нейронной активности, но пока спорят, можно ли считать это настоящей интроспекцией.
Канал в каталоге Максиметера
42 подписчиков · IT и технологии