И снова прогнозы по ИИ. Теперь уже от Бена Гертцеля: человека, который знает об AGI бол...
И снова прогнозы по ИИ. Теперь уже от Бена Гертцеля: человека, который знает об AGI больше всех Бен Гертцель ввел сам термин «AGI» (искусственный глобальный интеллект) в 2005 году и с тех пор является одним из главных авторитетов в этой области. Он возглавляет AGI Society, которая ежегодно проводит главную конференцию по искусственному глобальному интеллекту, а также выступает главным научным сотрудником компании Hanson Robotics — той самой, которая создала знаменитого робота Софию. Если кто-то может считаться экспертом номер один по AGI, это Гертцель. В чем главная угроза, по его мнению Гертцель не сомневается, что AGI появится в период 2027–2030 годов. И его тревожит вопрос: а кто будет контролировать эту технологию? По его словам, AGI слишком важен, чтобы оказаться в руках нескольких венчурных фондов или корпораций вроде OpenAI и Anthropic. 2 основные опасности, которые он выделяет Первая — концентрация власти и глобальное неравенство. Если AGI останется закрытой технологией, принадлежащей узкому кругу игроков, это приведёт к колоссальному разрыву между теми, кто управляет ИИ, и остальным миром. Гертцель прямо говорит: если технологическое развитие сосредоточится в нескольких странах или компаниях, неравенство вырастет до катастрофических масштабов. Вторая — технический тупик текущего подхода. Коммерческая ИИ-индустрия, по его мнению, ошибочно ставит всё на масштабирование трансформеров и GPT-подобных моделей. Это миллиардные вложения в одно направление, которое может оказаться недостаточным для настоящего AGI. Главная проблема — современные LLM не способны учиться непрерывно в реальном времени, как человек. Каждый новый диалог они начинают с базовых параметров, не накапливая опыт. А без этого, считает Гертцель, AGI не построить, сколько бы денег ни вложили. Что он предлагает вместо этого Он строит децентрализованную экосистему через блокчейн-проект SingularityNET и Альянс искусственного суперинтеллекта. Код AGI должен быть свободным и открытым, но этого мало — нужна распределённая инфраструктура, чтобы технологией владели тысячи людей из разных стран, а не несколько корпораций. Он запускает «экономику ИИ-агентов», где пользователи смогут управлять целыми флотилиями агентов, которые будут выполнять задачи и даже проводить транзакции. Гертцель признаёт риски: децентрализованная система может быть использована во вред, злоумышленники могут создать опасную модификацию. Но он готов на это пойти, потому что считает открытую экосистему меньшим злом, чем гонка вооружений между несколькими сверхдержавами. Его главный страх, что у человечества не будет шанса, потому что понимание происходящего сконцентрируется у ничтожного меньшинства, а остальные просто останутся за бортом. == Словом, все исследователи так или иначе про ужас-ужас, только одни на всё смотрят оптимистически, а другие через очки пессимистов. Как будет на самом деле, кто правее из них — узнаем через пяток лет. Продолжу изучать прогнозы. Всё интересное буду приносить сюда. Хочется диалога с думающими и созидающими людьми. Приходите общаться