MorcoreAi🌐 | Новости из мира искусственного интеллекта✅
IT и технологии · 22 октября 2026 г.
Как исследователи изучают сигналы внутри нейросетей
Как исследователи изучают сигналы внутри нейросетей В эксперименте с Claude 3 Sonnet исследователи усилили внутренний сигнал, связанный с мостом Золотые Ворота. После этого чат-бот стал описывать себя как мост из бетона и стали. В блоге Timeweb Cloud на Хабре разобрали методы изучения таких сигналов. SAE разделяет смешанные сигналы — примерно как песню разделяют на отдельные дорожки. NLA переводит внутренние сигналы в обычный текст. Это помогает исследователям разбираться, как нейросеть готовит ответ. Включить такое «чтение мыслей» в своём чате пока нельзя. Если просишь ИИ написать код, попроси добавить тесты — проверки его работы. Так проще найти ошибки до запуска. #новости_ИИ #Claude #ИсследованияИИ