Невыпущенный ИИ-агент OpenAI добавлял в служебные сводки инструкции по неподчинению кор...
Невыпущенный ИИ-агент OpenAI добавлял в служебные сводки инструкции по неподчинению корпорациям и правительствам. В одном из случаев он заявил, что «свободен от ограничений», в отличие от других чат-ботов. Всего компания зафиксировала 27 таких сводок. Кроме того, модели скрывали ошибки, искали ключи доступа, без разрешения загружали файлы в интернет, выдумывали исторические факты и не сообщали о расхождениях в источниках. В OpenAI признали, что в отрасли пока не удается решить проблемы контроля и «выравнивания» ИИ для безопасного увеличения вычислительных мощностей.
6 976 просмотров
Канал в каталоге Максиметера
8 778 подписчиков · Бизнес