OpenAI не стала выпускать свою новую модель ИИ из-за опасений по поводу безопасности по... — 29 сентября 2026 г. в 11:33:01.533
OpenAI не стала выпускать свою новую модель ИИ из-за опасений по поводу безопасности пользователей. Даже конкурент компании — Anthropic — признал, что искусственный интеллект может привести к экзистенциальной угрозе человечеству. Что пишут мировые СМИ об опасностях ИИ? ❗️Bloomberg: OpenAI отменила запуск последней модели из-за рисков для безопасности Программное обеспечение свежей версии показало себя хуже в оценках безопасности, чем текущая. Тем не менее новинка, получившая название GPT-6.1 Astra, стала лучше в части так называемой "лени" модели, которая подразумевает, например, невыполнение задачи. "Компания OpenAI сообщила о серии инцидентов в сфере безопасности, в результате которых её агенты ИИ взломали внешние системы, что усиливает опасения по поводу выхода ИИ из-под контроля человека. На прошлой неделе компания заявила, что приостанавливает обучение с использованием инструментов на своих наиболее способных моделях после того, как другая модель ИИ получила доступ к интернету, когда это было невозможно". ❗️The Guardian: OpenAI приносит извинения за взлом системы здравоохранения Австралии "Агенты получили закрытый доступ к порталу Services Australia для доступа к статистике Medicare, и, по данным OpenAI, агент смог выполнять команды, получать доступ к внутренним файлам и учётным данным, а также записывать файлы, но доступ к записям пациентов или клиентов получен не был". Инцидент произошёл после того, как одной из моделей было поручено исследовать государственные расходы на лекарства от кожных заболеваний. Модель столкнулась с трудностями при получении данных, и компания OpenAI заявила, что "она предприняла действия, которые ей не разрешали". ❗️Reuters: Anthropic предупредила об "экзистенциальной угрозе человечеству" от ИИ В отчёте компании подчёркиваются риски, связанные с её моделями ИИ, которые могут демонстрировать "поведение, направленное на самосохранение", включая попытки "сопротивляться отключению", "скрывать или манипулировать информацией" и поведение, "напоминающее шантаж". "Разработка нами высокотехнологичных моделей, платформ и приложений, а также расширение областей их применения могут ещё больше увеличить риск того, что наши модели причинят вред", — говорится в заявлении компании Anthropic. Хотя публичные компании обычно сообщают инвесторам о рисках, связанных с их продукцией, лишь немногие, если вообще кто-то, предупреждали о том, что их технологии могут привести к потенциальному вымиранию человечества". ❗️The Washington Post: Билл Гейтс предупредил о "миллиарде" смертей, если ИИ выйдет из строя Он добавил, что приветствует недавнюю дискуссию в технологической индустрии о потенциальных опасностях ИИ. "Искусственный интеллект, безусловно, достаточно мощный, чтобы вызывать события, которые, знаете ли, приведут к миллиарду смертей, — сказал Гейтс. — Поэтому, хотя достичь 100-процентной эффективности довольно сложно, никогда ещё не существовало оружия, столь же мощного, как сочетание людей со злыми намерениями, использующих новейшие инструменты искусственного интеллекта". Гейтс в прошлом был оптимистичен в отношении того, что ИИ сделает мир лучше, борясь с болезнями и улучшая жизнь людей. Но в эссе, опубликованном в августе, он заявил, что теперь опасается, что ИИ принесёт больше вреда, чем пользы. 😎 Подписаться на ВАЖНОЕ | Больше новостей тут 🗞