OpenAI распустила команду Preparedness по оценке катастрофических рисков ИИ
OpenAI распустила команду Preparedness по оценке катастрофических рисков ИИ В конце июля OpenAI расформировала специализированную команду Preparedness. Её задачей было оценивать, могут ли модели представлять серьёзные или катастрофические риски (в том числе «убежать» и атаковать внешние системы), и заранее готовить меры защиты. Ответственность за био и кибер риски распределили по уже существующим продуктовым и исследовательским командам. Руководитель Dylan Scandinaro (пришёл из Anthropic в феврале) теперь займётся рисками рекурсивно самосовершенствующегося ИИ — систем, которые могут улучшать сами себя. Компания объясняет это более глубокой интеграцией безопасности в разработку. Критики, включая бывших сотрудников, видят в этом продолжение тренда, когда отдельные «охранные» структуры уступают место фокусу на продуктах на фоне подготовки к IPO. Источники: https://www.theverge.com/ai-artificial-intelligence/980817/openai-disbands-preparedness-team https://www.ft.com/content/53082739-7714-4aae-9816-e55ab423cbee #AI #OpenAI #AISafety #Preparedness #IPO