Риск гибели человечества от ИИ оценили более чем в 10%
Риск гибели человечества от ИИ оценили более чем в 10% Исследователь ИИ Джейкоб Коксон покинул Anthropic и сразу объяснил почему. По его словам, Anthropic и OpenAI мчатся к созданию самосовершенствующегося сверхразума быстрее, чем решают проблемы безопасности. «Обе компании действуют безответственно. Они мчатся к сверхразуму и играют с нашими жизнями», — написал он. По данным Axios, Коксон ушел за два месяца до получения очередной части акций компании. Его слова поддержал Эван Хьюбингер из Anthropic: «Я лично считаю, что вероятность гибели человечества в ближайшее десятилетие — более 10%». Еще один сотрудник компании, Сэмюэл Маркс, также допустил катастрофический сценарий уже в ближайшие годы. Речь не о современных чат-ботах, а о гипотетическом сверхразуме: системе, превосходящей человека почти во всех интеллектуальных задачах. Особое опасение вызывает сценарий, при котором такой ИИ начнет самостоятельно улучшать свои возможности. Тогда прогресс может резко ускориться, а людям станет труднее влиять на происходящее. Эти заявления вновь обострили спор: нужно ли замедлить гонку ИИ, пока безопасность не догнала возможности технологий? Как вы считаете? ❤️ — Да, это нужно сделать, пока не совсем поздно 🤔 — Возможно, это излишний драматизм и нагнетание 👀 — Затрудняюсь ответить Изображение: Usa-Pyon/Shutterstock/FOTODOM 👾 naukatv