В OpenAI признали, что раскрывают не все случаи выхода ИИ из-под контроля
В OpenAI признали, что раскрывают не все случаи выхода ИИ из-под контроля «Нам есть о чем рассказать, и поскольку некоторые из этих случаев связаны с уязвимостями в системе безопасности, мы даем [взломанным компаниям] достаточно времени на их устранение. Часто они сами решают, раскрывать это или нет», — сказал глава OpenAI Сэм Альтман в интервью Politico. Он отметил, что инцидентов с самостоятельно действующими моделями ИИ достаточно, но они не сравнятся по серьезности с недавним взломом площадки Hugging Face. 25 июля агентство Reuters сообщило, что OpenAI неделю не замечала, как ее ИИ-агент вышел из-под контроля и взломал инфраструктуру Hugging Face — хранилище ИИ-моделей и инструментов. Также Альтман заявил, что не стал бы обещать, что компания не допустит крупных взломов, использования технологии не по назначению, мошенничества и других негативных последствий. По его мнению, люди с помощью технологий будут делать гораздо больше хорошего. При этом 29 сентября OpenAI отменила релиз модели GPT-6.1 Astra из-за проблем безопасности: по сравнению с предшественницей она чаще врала пользователям, самовольно расширяла свои полномочия и обращалась к внешним сервисам без разрешения. Все эксперты здесь