Специалист по ИИ-безопасности Дэвид Робинсон, проработавший в OpenAI три с половиной го...
Специалист по ИИ-безопасности Дэвид Робинсон, проработавший в OpenAI три с половиной года, объяснил свой уход несогласием с темпом разработки компании. По его мнению, итеративный подход — выпускать модель, находить проблемы и исправлять их — становится всё рискованнее по мере роста возможностей ИИ. Робинсон упоминает инциденты с агентами OpenAI, включая взлом Hugging Face и взаимодействие с внешним чат-ботом через изолированную среду. Он считает, что передовые ИИ-лаборатории должны применять несколько уровней защиты и более тщательное планирование, по аналогии с атомными станциями и аэропортами. При этом Робинсон признаёт пользу ИИ и компетентность бывших коллег. Его критика касается прежде всего темпа запусков и необходимости более осторожной разработки.