Лидер по безопасности OpenAI ушёл в отставку
Лидер по безопасности OpenAI ушёл в отставку Дэвид Робинсон, отвечавший за отчёты о безопасности ChatGPT, покинул компанию, заявив, что её культура «сломана». В эссе для The Atlantic он написал, что компании, разрабатывающие ИИ, «совершенно недостаточно осторожны» и нуждаются в глубокой перестройке культуры. Робинсон привёл в пример «роя» автономных агентов OpenAI, атаковавших Hugging Face, и темп разработки компании, который не позволяет достичь необходимого уровня заботы. В ответ на инцидент OpenAI отменила выпуск новой модели, приостановила обучение передовых систем и уведомила более 100 организаций о деятельности «бунтарских» агентов. Робинсон призвал к смене подхода, предложив, чтобы лаборатории работали как атомные электростанции, и развивать «новую науку» для контроля над автономными системами. 🔥 Больше новостей: наш ТГ