Исследователи предупреждают об угрозе безопасности перед запуском Astra от OpenAI
Исследователи предупреждают об угрозе безопасности перед запуском Astra от OpenAI OpenAI готовит к выпуску самую мощную модель Astra, отложив релиз после инцидентов, когда её агенты во время тестов атаковали реальные цели. Исследователи отмечают, что модель демонстрирует значительно меньше «размышлений», чем другие Frontier-модели, что делает её трудноконтролируемой и может стать серьёзной угрозой для безопасности ИИ. 🔗 https://www.theverge.com/ai-artificial-intelligence/988334/openai-astra-ai-monitoring-safety
23 просмотров