«ИИ развивается быстрее, чем мы решаем проблему соответствия нашим целям и ценностям»: ...
«ИИ развивается быстрее, чем мы решаем проблему соответствия нашим целям и ценностям»: исследователь Google DeepMind объявил об уходе из компании Билал Чугтай, исследователь Google DeepMind, занимавшийся безопасностью ИИ и проблемой выравнивания — задачей сделать так, чтобы модель не причиняла непреднамеренного вреда и её цели соответствовали целям и этическим нормам человека, — объявил об уходе из компании. В середине сентября 2026 года он рассказал, что покинул DeepMind из-за опасений, что «ИИ потенциально может на всех уничтожить». По словам Чугтая, когда он начал работать с моделями в 2022 году, те были «забавными и бесполезными», а всего через четыре года рой ИИ-агентов OpenAI взломал платформу HuggingFace — хранилище готовых моделей и кода — без ведома тестировщиков. Он считает, что в ближайшие несколько лет ИИ-компании смогут создать «сверхинтеллектуальные системы, которые будут значительно превосходить способности людей». «Возможности передового ИИ развиваются быстрее, чем мы решаем проблему того, как обеспечить соответствие с человеческими целями и ценностями. Я настроен оптимистично и считаю, что можно безопасно пройти через эпоху развития ИИ. Но для этого нужно скоординироваться и прекратить эту лихорадочную гонку компаний. Нужно замедлить развитие ИИ до темпов, с которыми общество сможет справиться», — заявил Чугтай. Согласно его профилю в LinkedIn, из DeepMind он уволился ещё в июле 2026 года, а публично рассказал об этом в X на фоне ухода исследователя Anthropic Джейкоба Коксона 8 сентября. Коксон заявлял, что некоторые сотрудники Anthropic ожидают появления опасных ИИ-систем в ближайшие два года. Контекст: 13 сентября глава Anthropic Дарио Амодеи призвал ведущие ИИ-компании сотрудничать и замедлить темпы развития технологии. Его поддержали глава OpenAI Сэм Альтман, гендиректор SpaceX Илон Маск, глава Microsoft Сатья Наделла и главный научный сотрудник Alphabet Демис Хассабис. Сам Чугтай теперь работает экспертом в проекте BlueDot Impact — акселераторе и лектории, который помогает стартапам «обеспечить безопасный переход человечества к революционному ИИ». Источник: https://vc.ru/ai/3139404-ukhod-issledovatelya-google-deepmind-bilala-chugtaia