Десять минут на спасение человечества
Десять минут на спасение человечества Джеффри Хинтон ("крестный отец ИИ" и лауреат множества премий) накинул тут алармизма: никто не доказал, что безопасный и контролируемый сверхинтеллект возможен в принципе. Строить его в такой ситуации крайне неразумно. Потеря контроля над ИИ умнее нас, по его словам, может обернуться катастрофой вплоть до вымирания человечества. Этот стейтмент приурочен к внесению в британский парламент законопроекта Artificial Superintelligence Security Bill. Вносит депутат от лейбористов Алекс Собел, текст писала организация ControlAI. Билль запрещает разработку сверхинтеллекта в Британии, обязывает правительство отслеживать и ограничивать предшествующие технологии и требует добиваться международного соглашения о запрете. Сверхинтеллект определен через нацбезопасность: система, способная нейтрализовать, обойти, подменить или сделать неэффективными вооруженные силы, суды, полицию и прочие органы власти. Там же высказался Стюарт Расселл: компании ради частной выгоды собираются выкатывать технологию, которая, по их же собственным утверждениям, имеет заметный шанс уничтожить человечество. Разрешения на такую русскую рулетку общество не давало, поэтому реагировать должны государства. В целом, Британия запрещает себе разработку сверхинтеллекта, наш канал запрещает себе превышать миллиард подписчиков. Оба самозапрета работают безупречно. @anti_agi