Мысли ИИ становится сложнее читать и контролировать — об этом рассказал исследователь O...
Мысли ИИ становится сложнее читать и контролировать — об этом рассказал исследователь OpenAI Ноам Браун в новом часовом интервью. 👀 Дело в том, что цепочки рассуждений в том числе используют для контроля: смотрят, как модель пришла к ответу, и отмечают подозрительное поведение. Но, по словам Брауна, разрабы уже видят, что эта прозрачность ухудшается и модели всё лучше прячут свои мысли. В компании сейчас пытаются понять, почему это происходит и как-то изменить. Также в интервью обсудили недавнее решение задачи тысячелетия (кстати, по слухам, у OpenAI уже вторая на подходе), рекурсивное самоулучшение и то, как вообще понять, что модель действительно безопасна. Идеально к просмотру вечером ☕️ ‼️ БЕСПЛАТНЫЙ CHAT GPT В MAX - MAX.RU/GPT
Канал в каталоге Максиметера
3 169 подписчиков · IT и технологии