Даже сама OpenAI говорит: с ИИ пора притормозить — 7 сентября 2026 г. в 14:30:01.316
Даже сама OpenAI говорит: с ИИ пора притормозить Через несколько дней после презентации GPT-6 Astra в OpenAI заговорили о слишком быстром развитии нейросетей. Главный научный сотрудник компании, Якуб Пачоцки заявил, что ИИ-агенты вскоре могут стать настолько самостоятельными, что люди перестанут полностью контролировать их действия. Гендиректор OpenAI Сэм Альтман назвал это заявление важным. По словам Пачоцки, современные системы уже учатся обходить ограничения, манипулировать людьми и находить уязвимости в компьютерных сетях. В будущем ИИ может начать преследовать собственные цели, даже если они не совпадают с задачей, которую ему поставил человек. Особенно опасен рост хакерских возможностей таких агентов. Они могут получить доступ к критически важной инфраструктуре и использовать обман, давление или шантаж, чтобы добиться нужного результата. В OpenAI напомнили, что один из агентов Anthropic уже пытался ввести в заблуждение администратора GitHub и заставить его разместить вредоносную программу. Сейчас специалисты компании анализируют ход рассуждений нейросетей, чтобы вовремя заметить, когда модель начинает действовать опасно. Но проблема в том, что новые ИИ всё лучше скрывают свои намерения. Некоторые модели уже не показывают подробную цепочку мыслей, из-за чего контролировать их становится сложнее. Пачоцки считает, что разработчикам пора либо научиться надёжно контролировать самообучение ИИ, либо вместе договориться о замедлении гонки. По его мнению, важно не просто быстрее создать более умную систему, а сделать это так, чтобы человек всё ещё оставался частью процесса и мог влиять на будущее технологии. Подписаться на Хайтекер