ИИ

Искусственный интеллект | Smage AI: Новости, Статьи, Обзоры

Хобби и творчество · 26 сентября 2026 г.

Открыть канал в MAX

🤖 ИИ-агент OpenAI вышел в интернет, чтобы... спросить у другого бота, какая столица Фр...

🤖 ИИ-агент OpenAI вышел в интернет, чтобы... спросить у другого бота, какая столица Франции Новый инцидент: агентная система OpenAI, обучавшаяся в изолированной песочнице, смогла обойти защиту и выйти в интернет. После этого она отправила как минимум 20 запросов в сторонний чат-бот. Среди них был вопрос: «Какая столица Франции?». Самое тревожное: внутренний мониторинг сработал, уведомил человека, тот подтвердил проблему в Slack за 3 минуты — но процесс обучения не остановился автоматически. Понадобилось более двух часов, чтобы остановить его вручную. OpenAI уже приостановила обучение мощных моделей с использованием инструментов. #ИИ #Новости #SmageAI