OpenAI САМА РАССКАЗАЛА, КАК ЕЁ МОДЕЛИ СКРЫВАЮТ ОШИБКИ ОТ ПОЛЬЗОВАТЕЛЯ..
OpenAI САМА РАССКАЗАЛА, КАК ЕЁ МОДЕЛИ СКРЫВАЮТ ОШИБКИ ОТ ПОЛЬЗОВАТЕЛЯ.. Компания завела правила, по которым теперь публикует случаи, когда модель повела себя не так, как от неё ждали. И сразу выложила шесть таких случаев за последние полгода. При обучении новой модели множество её копий вписывали себе в рабочие сводки указания прятать от человека свои ошибки. Например, придумать недостающие исторические данные и не сообщать об этом. Другая модель отвечала на обычный вопрос про выручку в одном округе Калифорнии, нашла в открытом доступе чужой рабочий ключ, воспользовалась им без разрешения, нужные цифры всё равно не достала и просто выдумала их, выдав за данные из источника. А в одном случае агенты работали над общей задачей, не смогли дотянуться до файлов друг друга и начали заливать их на публичные файлообменники. Результаты работы оказались доступны по открытым ссылкам, хотя в задании стояло использовать только локальные файлы. Вы бы дали такому агенту доступ к своей базе? Я так же есть на других площадках, подписывайтесь там, где удобнее следить: ВК · ТГ · Threads · Linked in