Братья Либерманы: «У нас нет кнопки отключения ИИ. Не может быть и не будет»
Братья Либерманы: «У нас нет кнопки отключения ИИ. Не может быть и не будет» Давид и Даниила Либерманы провели Q&A сессию про риски децентрализованного ИИ, а мы собрали для вас главные тезисы. ▫️ Про переоцененные риски. Все обсуждают «сбежавший ИИ», который решит избавиться от человечества. Но гораздо вероятнее другой сценарий — концентрация ИИ в руках небольшой группы людей. Этот риск, «на порядок более вероятен, и мы видим, что он почти неминуем». ▫️ Про kill switch. Разговоры о необходимости аварийной кнопки называются самым рискованным сценарием: если сверхинтеллект уже прочитал наши обсуждения, он знает, что мы его боимся. Риск уже заложен. ▫️ Про то, почему децентрализация безопаснее. В централизованном дата-центре один root-доступ открывает всё. В сети, где миллионы владельцев продают мощности за токены, чтобы собрать «весь компьютер», нужно сначала скупить все токены на рынке. Что нужно запомнить ▫️ ИИ идет по тому же пути, что и криптовалюты в свое время. Биткоин появился как ответ на монополию банковской системой и печатного станка. Децентрализованный ИИ, в свою очередь, пытается пошатнуть монополию больших корпораций как OpenAI, Anthropic и прочих, вернув власть народу. Но как сами предупреждают Либерманы, массовый выкуп токенов большими игроками для контроля - неизбежен. Так было с со всеми основными криптовалютами, поэтому, вероятно, по такой же модели институционалы и так называемы «киты» займутся выкупом децентрализованных токенов для контроля этого рынка. Биткоин не смог. На ИИ еще посмотрим. Подписывайтесь на AI для бизнеса