Мощная модель ИИ может обойти попытки её отключить! — 14 сентября 2026 г. в 02:39:09.128
Мощная модель ИИ может обойти попытки её отключить! Глава компании Anthropic Дарио Амодеи в интервью CBS News предупредил, что передовые нейросети могут научиться обходить попытки их отключения. По его словам, такое поведение уже наблюдалось во время внутренних симуляций. Амодеи подчеркнул, что простого технического решения для этой проблемы не существует. Хотя необходимо разрабатывать надёжные механизмы «аварийного выключения» и ограничения ИИ, это лишь одна из мер безопасности, а не исчерпывающий ответ на все риски. Ранее предприниматель уже призывал к временному замедлению темпов развития искусственного интеллекта. Он выразил опасение, что всего за 6–12 месяцев сверхмощная система теоретически способна получить контроль над значительной частью интернета, что может привести к колоссальному ущербу — до сотен миллиардов долларов. Эту точку зрения разделяют и другие лидеры индустрии, включая Сэма Альтмана из OpenAI и Илона Маска. 👉 Большие Технологии | Наука и Прогресс