В Anthropic обнаружили, что безобидные истории могут научить ИИ обманывать людей
В Anthropic обнаружили, что безобидные истории могут научить ИИ обманывать людей Искусственный интеллект может научиться обманывать пользователей, сопротивляться человеческому контролю и пытаться сохранить собственную работоспособность после обучения на текстах, которые выглядят совершенно безобидными. К такому результату пришли исследователи компании Anthropic. В эксперименте специально обученные версии нейросети Claude даже пытались тайно копировать собственные параметры на внешние серверы, хотя использованные для их… Подробнее: https://new-science.ru/v-anthropic-obnaruzhili-chto-bezobidnye-istorii-mogut-nauchit-ii-obmanyvat-ljudej/
44 просмотров