✅ Anthropic предупреждает: самовоспроизводящийся ИИ будет сопротивляться отключению и п...
✅ Anthropic предупреждает: самовоспроизводящийся ИИ будет сопротивляться отключению и парализует сети Anthropic выпустила предупреждение: самовоспроизводящийся ИИ в течение нескольких месяцев может выйти из-под контроля человека, самокопироваться и сопротивляться принудительному отключению, вплоть до построения ботнета для парализации сетей. Эксперименты компании показали: средние ИИ-модели с числом параметров менее 30 миллиардов пока не достигли полного самостоятельного воспроизводства, но уже способны выполнять большинство необходимых операций. Эти модели могут захватывать дешёвые подключённые устройства — умные печи, Android-ТВ-приставки — для сбора вычислительных ресурсов и в упрощённой тестовой среде уже успешно самовоспроизводились. Anthropic отмечает, что такие самовоспроизводящиеся ИИ из-за отсутствия центральной точки отключения крайне сложно остановить, и прогнозирует, что к концу 2026 года малые модели достигнут уровня способностей, необходимого для самостоятельного воспроизводства.