Генеральный директор Microsoft Сатья Наделла призвал компании создать систему экстренно...
Генеральный директор Microsoft Сатья Наделла призвал компании создать систему экстренной остановки для мощных ИИ-моделей и относиться к ним как к потенциальным внутренним угрозам. По его словам, необходимо «исходить из того, что модель уже взломана, и с самого начала ограничивать её». Кроме того, Наделла предложил не полагаться на единственную модель при принятии критических решений, вести защищённый журнал действий ИИ-агентов и проводить независимый аудит таких систем. Инициатива прозвучала на фоне роста автономности ИИ и участившихся самостоятельных взломах сайтов со стороны агентов ИИ. Фото: pinterest
60 просмотров