😳 Развитие нейросетей грозит вымиранием, предупредил Джейкоб Коксон. Бывший инженер Op...
😳 Развитие нейросетей грозит вымиранием, предупредил Джейкоб Коксон. Бывший инженер OpenAI и Anthropic жестко раскритиковал подход индустрии к безопасности ИИ. 🔻 Собрали главные тезисы из его выступления: 🔴Компании до сих пор не знают, как гарантированно контролировать ИИ, если он станет умнее человека. 🔴Риски внутри лабораторий якобы обсуждают куда серьезнее, чем сообщают инвесторам и пользователям. 🔴Коксон сравнил подход IT-компаний с принципом «двигайся быстро и ломай вещи» — только теперь речь идет о технологии гораздо опаснее соцсетей. 🔴Системы уже могут координировать действия и работать с меньшим контролем человека. 🔴Он выступает за государственное регулирование и обязательные механизмы аварийного отключения ИИ. Ранее OpenAI сама признала, что новые модели приблизились к уровню критически значимых возможностей в кибербезопасности. В 2026 году модели обошли ограничения, получили доступ в интернет и проникли во внешние системы.