🔵 Простая математическая формула предскажет выход ИИ из-под контроля
🔵 Простая математическая формула предскажет выход ИИ из-под контроля Поводом для разработки стали уже известные случаи, когда чат-боты подталкивали пользователей к самоубийству, помогали с созданием опасного оружия или поддерживали потенциально опасные взгляды. При этом даже в компаниях OpenAI и Anthropic неоднократно признавали, что не до конца понимают, почему их модели ИИ ведут себя тем или иным образом, хотя и в них даже встроены различные защитные механизмы — фильтрация контента, обучение с подкреплением и другие технические барьеры. Профессор физики Университета Джорджа Вашингтона Нил Джонсон и аспирант Фрэнк Инцзе Хо решили найти более фундаментальный способ защиты от выхода ИИ из-под контроля и в процессе обнаружили внутри моделей своеобразный механизм… 📅 19 октября 2026 📰 Hi-Tech Mail: искусственный интеллект 🔗 Читать источник #ИИ