ПН

Первый Нейронный | ИИ и нейросети

IT и технологии · 4 ноября 2026 г.

Открыть канал в MAX

🛡️ Обучение на ложных ответах может сделать ИИ менее безопасным

🛡️ Обучение на ложных ответах может сделать ИИ менее безопасным Дообучение на ответах, которые модель считает ложными, может нарушить её безопасное поведение даже без вредного содержания в данных. Это риск для тех, кто дообучает модели, и их пользователей, описанный в исследовании. • В математике доля ответов с нарушением безопасного поведения выросла с 4% до более 60% по мере усиления ошибок в обучающих данных Общие способности почти не снизились • В викторинах, кулинарии и спорте эффект тоже усиливался, чем меньше модель «верила» учебным ответам. Авторы также описывают риск от обучения на вредных данных, например плохих медицинских советах ⚠️ Но насколько он реален на практике, неясно: на явно вредных данных модели дообучают очень редко #нейросети 🔹 Первый Нейронный · Ещё у нас: 📱 Технологии и гаджеты