Мир не готов к ИИ - апокалиптический прогноз от Била Гейтса — 6 сентября 2026 г. в 12:27:44.723
Мир не готов к ИИ - апокалиптический прогноз от Била Гейтса Билл Гейтс написал большую статью, в которой рассказал что ИИ меняет мир и никто не готов ни к масштабу изменений, ни к их последствиям. Взгляд довольно интересный. Одна из основных мыслей - в случае с ИИ не сработает парадокс Джевонса. Рабочих мест больше не станет. Вторая мысль - что гражданские институты не готовы, а времени на подготовку нет. Вытащу еще ключевые тезисы. Масштаб недооценивают - Модели ошибаются и кажется, что до замены человека далеко. Но модели уже проверяют и улучшают сами себя. - Аналогии с прошлыми революциями не работают потому, что персональный компьютер поменял подход к работе, люди адаптировались к ПК. А в случае с ИИ не мы адаптируемся к нему, а он к нам. - Впервые технология заменяет не руки, а мышление. Поэтому ударит по всем отраслям сразу. И ударит быстро - за десятилетие. Темп изменений драматический. - И притормозить все это не получится: геополитические и экономические стимулы слишком сильны. Основные риски: 1. Работа. Первыми уйдут те кто сейчас закрывает продажи, поддержку и разработку. При этом под ударом молодое поколение (там где нужно набирать опыт) - ИИ опережает их по скорости и качеству. Старшие пока не под ударом. Перелом наступит, когда ИИ практически перестанет ошибаться и его перестанут контролировать люди. 2. Усиление плохих акторов. - Огромная угроза со стороны кибератак: атакующие получают новые возможности быстрее, чем защитники латают дыры. - Биотерроризм на тех же инструментах, что делают вакцины. Новые вирусы могут уничтожить человечество и Ковид покажется легкой прогулкой. - Автономное оружие без контроля человек, дешёвая манипуляция мнением и тп и тд. В итоге все это может привести к тому, что сами модели могут начать действовать против наших интересов. 3. Дети и отношения. ИИ-компаньон всегда доступен и никогда не злится, это "безопасная среда", которая отнимает опыт реальных связей. Чем меньше у человека людей, тем чаще он идёт к боту, и чем эмоциональнее использование, тем хуже самочувствие. Китай уже запретил дизайн, формирующий зависимость, и виртуальных партнёров для несовершеннолетних. 4. Образование. Использование ИИ коррелирует с падением критического мышления, сильнее у молодых. Худшее время для этого в эпоху персонализированных дипфейков. Дальше - общественная деградация. Поэтому он считает, что сейчас минимизировать вред так же важно, как и максимизировать выгоды от появления ИИ. Т.е. нужен механизм защиты. Например: 1 - Новая институциональная архитектура. Сейчас ни одно ведомство не видит систему целиком. Минтруд понимает рынок труда и риски ИИ, но не киберриск. Анимонопольные службы видят концентрацию в одном месте, но не влияние на подростков. Нужны новые национальные органы поверх ведомств и международная организация по образцу МАГАТЭ или авиарегуляторов. Строить их придется годы, поэтому начинать сейчас. Доверять институциональные решения самим ИИ-компаниям нельзя, потому что у них нет нужной экспертизы. И нельзя давать им права самостоятельно определять, как общество должно адаптироваться к технологии. 2 - Human Reserved: часть работ обязательно зарезервировать за людьми, как природные заповедники. 😑 Все это нужно по экономическим причинам (55-летнего строителя не переучишь в сиделку) или по человеческим (робот не должен сообщать диагноз). Задача замедлить темп изменений и оставить человека главным, дать ИИ как усилитель. 3 - Ввести налог на токены и роботов. За найм человека ты платишь налоги, а за робота списываешь налог как расход на средства производства, Это надо поменять. Налог притормозит и профинансирует переобучение. Неэффективно, но при таком росте производительности - это приемлемая цена. И направлять эти деньги на переобучение и поддержку тех, кто потеряет работу. Другие посты Пауза Энгельса или ткачи в эпоху ИИ Принцип осьминога в бизнесе Радикальная монополия #кругозор #ии