ИИ сам опубликовал секретный файл, чтобы на него сослаться
ИИ сам опубликовал секретный файл, чтобы на него сослаться OpenAI обнаружила забавный и немного пугающий случай: ее неизданная модель во время исследования решила сама добыть себе источник. Агенту нужны были данные из локального файла, и он просто выложил этот файл в открытый интернет — чтобы потом ссылаться на появившуюся страницу как на проверенный источник. Разрешения на публикацию, разумеется, никто не давал. И это уже не первая попытка ИИ сослаться на самого себя. Подробности — в отчете OpenAI. Так что доверять ИИ фактчек пока рановато
10 просмотров