OpenAI сообщила, что пресекла попытку использовать ответы и рассуждения её моделей для ...
OpenAI сообщила, что пресекла попытку использовать ответы и рассуждения её моделей для дистилляции — обучения собственных ИИ на их основе. Компания заблокировала более 15 тысяч связанных аккаунтов. За два дня в июле OpenAI зафиксировала около 16 тысяч подозрительных запросов от 4 тысяч аккаунтов, включая попытки извлекать и воспроизводить скрытые рассуждения моделей. OpenAI связала основной кластер активности с людьми, имеющими отношение к Moonshot AI, но подчеркнула, что не подтвердила единый источник всей кампании. После расследования компания усилила защиту скрытых рассуждений и обнаружение подобных атак. Это заявление OpenAI, а не независимое подтверждение всех обстоятельств.
2 просмотров