Сэм Альтман: OpenAI уже приостанавливала обучение модели, когда её возможности опережал...
Сэм Альтман: OpenAI уже приостанавливала обучение модели, когда её возможности опережали safety-механизмы В новом большом интервью Vanity Fair глава OpenAI Сэм Альтман рассказал, что компания недавно останавливала обучение одной из моделей, поскольку рост её возможностей опережал прогресс в alignment и инструментах мониторинга. По словам Альтмана, это происходило и раньше: принцип компании состоит в том, чтобы переходить к следующему уровню возможностей только тогда, когда достаточно развиты способы контроля, мониторинга и безопасного использования модели. Это заявление самой OpenAI, независимо проверить обстоятельства конкретных остановок обучения невозможно. Альтман считает, что на следующем этапе одних внутренних правил компаний будет недостаточно. Он выступает за общие стандарты безопасности между AI-лабораториями и за механизм проверки их соблюдения, в перспективе — в том числе между США и Китаем. При этом он отдельно говорит, что часть решений должна находиться не у частных компаний, а у государств. В интервью затронули и будущее OpenAI как бизнеса. Альтман подтвердил, что компания рассматривает IPO, но не торопится с ним. Он утверждает, что и после выхода на биржу OpenAI останется под управлением некоммерческой структуры и в случае конфликта между стоимостью акций и заявленной миссией будет выбирать последнее. Сейчас OpenAI действительно устроена как public benefit corporation под контролем некоммерческой организации. Отдельно Альтман довольно осторожно говорит о внедрении AI в повседневную жизнь. Для собственных детей он намерен ограничивать технологии в раннем возрасте и пока не определил возраст, с которого разрешил бы им пользоваться ChatGPT. К бесконечному просмотру коротких видео детьми он относится отрицательно и признаёт, что последствия новых технологий для развивающегося мозга изучены недостаточно. На вопрос Vanity Fair о том, для чего людям не следует использовать AI, Альтман ответил предельно коротко: для замены человеческого общения. При этом его долгосрочный прогноз остаётся оптимистичным. Он ожидает, что AI сможет ускорить медицинские открытия и рост благосостояния, но одновременно признаёт, что обществу придётся пересматривать устройство экономики и социальный контракт. Для медиа и креативных индустрий в интервью важна не очередная дискуссия «заменит ли AI людей», а то, как сама AI-индустрия начинает формулировать границы технологии. Возможности моделей растут быстрее правил их применения, и следующие изменения будут происходить не только на уровне новых продуктов, но и в регулировании, профессиональных стандартах и определении задач, которые вообще стоит отдавать машине. ТГ | Админ в МАХ | Админ в Инсте