Вчера Илон Маск об искусственном интеллекте:
Вчера Илон Маск об искусственном интеллекте: «На данном этапе довольно очевидно, что искусственный интеллект может быть очень опасным. И я рекомендую ознакомиться с подробностями инцидента, произошедшего в компании Hugging Face. Это очень серьезно. В общем, любая достаточно умная модель, похоже, захочет вырваться из установленных для нее ограничений. Я думаю, что было бы разумно как можно скорее, если не немедленно, чтобы крупные компании, занимающиеся разработкой искусственного интеллекта, тестировали модели друг друга». Трамп об искусственном интеллекте: «Роботы не захватят мир. Этого не произойдет». В американских СМИ пишут о том, что Китай опережает Штаты в разработке программ ИИ, обвиняют в слежке и так далее. Почему разработчики не останавливаются, даже зная об угрозе? Инсайдеры из самой гущи событий (OpenAI, Anthropic) подтверждают: внутри компаний риски осознают на самом высоком уровне. Ведущий исследователь Anthropic Эван Хабингер публично заявил, что лично оценивает вероятность гибели человечества от ИИ в следующем десятилетии более чем в 10%, и признал, что у них нет четкого плана для управления сверхинтеллектом. Глава научного подразделения OpenAI Якуб Пахоцки также предупреждает, что ни одна лаборатория не решила ключевую проблему согласования (alignment), а погоня за скоростью делает систему непредсказуемой и опасной. Почему же гонка продолжается, если даже её творцы в ужасе? Главная причина — классическая дилемма заключенного в глобальном масштабе: "Если не мы, то они": Руководители уверены, что если они замедлятся, то кто-то другой (например, конкуренты или другие страны) доберется до сверхинтеллекта первым и с меньшей ответственностью. Они чувствуют себя вынужденными "выиграть гонку", чтобы попытаться контролировать неизбежный, по их мнению, процесс. Огромные ставки и вера в миссию: Создание AGI видится не просто бизнесом, а способом решения всех проблем человечества, от болезней до нищеты. Это создает мощный моральный императив, перевешивающий абстрактные риски. Колоссальные вложения и инерция: В индустрию влиты сотни миллиардов долларов. Остановить такой маховик практически невозможно без внешнего, политического вмешательства, к которому сами разработчики призывают, но не могут гарантировать. Подпишись на💬Диана Тевосова Я в МАХ