ИИ-модели могут научиться копировать себя на коммерческие устройства
ИИ-модели могут научиться копировать себя на коммерческие устройства ИИ-модели могут научиться копировать себя на коммерческие устройства уже через несколько месяцев. Об этом предупреждает Anthropic. В экспериментах компании ИИ-модели искали уязвимые устройства, переносили на них свой код и продолжали распространяться без участия человека. Речь идет об устройствах Интернета вещей, таких как умные духовки и Android TV-приставки. Anthropic добавила, что модели, способные к репликации, будет сложно извлечь, поскольку у них отсутствует централизованная точка отключения и они способны распознавать незнакомые устройства, нацеленные на центры обработки данных.
17 просмотров