OpenAI официально ищет человека, который должен предсказать момент, когда ИИ выйдет из-...
OpenAI официально ищет человека, который должен предсказать момент, когда ИИ выйдет из-под контроля человека OpenAI запустила отдельное направление Preparedness и прямо сейчас ищет руководителя этого блока. Формально должность называется Head of Preparedness. По сути — человек, который должен заранее разобрать сценарии, где ИИ становится слишком автономным. Зарплата до $500 000 в год плюс акции. Такие деньги платят за риски, которые внутри компании считают реальными, а не гипотетическими. Задача роли следующая: Моделировать ситуации, в которых системы ИИ начинают принимать решения, формально корректные, но уже выходящие за пределы человеческого понимания. Команда Preparedness работает с угрозами высокого уровня: потеря контроля, некорректное поведение автономных систем, масштабирование последствий, которые человек физически не успевает осмыслить. Это не продуктовая команда и не исследовательская в классическом смысле. Это внутренняя служба раннего предупреждения. Сам факт появления такой роли многое говорит о текущем этапе развития ИИ. OpenAI публично признаёт, что скорость усложнения моделей обгоняет способность человека их объяснять. И вместо разговоров про далёкое будущее компания вкладывается в системную подготовку к моменту, когда человек окажется слабым звеном в цепочке принятия решений. @museuminvest