🛡️ Создатели ИИ боятся своего детища
🛡️ Создатели ИИ боятся своего детища Листал ленту между задачами — и завис. The Verge пишет: глава команды безопасности Anthropic (это те, кто делает Claude) публично заявил, что шанс того, что ИИ «убьёт всех людей» в ближайшие десять лет, больше десяти процентов. И это не хайп ради кликов: он говорит это всерьёз и тут же признаёт — плана, как удержать всё под контролем, у них до сих пор нет. А за несколько часов до этого из компании уволился исследователь Джейкоб Коксон. Прямо написал: компании «играют в азартную игру с нашими жизнями», гонясь за самосовершенствующимся сверхразумом. Читаю и вспоминаю, как мы на арене подключаем языковые модели к рутине — билеты, поддержка, расписания. Мелкие задачи. А люди, которые эти модели строят, увольняются, потому что боятся, что не справятся с последствиями. Контраст, который выбивает из колеи. Как думаете: это реальная угроза или safety-отдел сгущает краски? #ИИ #безопасность