🌍 Почему Кремниевая долина ломится в открытые двери, пытаясь заново изобрести Совесть
🌍 Почему Кремниевая долина ломится в открытые двери, пытаясь заново изобрести Совесть Современная безопасность ИИ строится на методе RLHF (обучение на основе отзывов людей) и так называемом «Конституционном ИИ». Модели выдают жесткий текстовый свод правил: «Тебе запрещено врать», «Не бери чужое». Если ИИ генерирует запрещенный токен (слово), алгоритм жестко наказывает его, вычисляя огромный штраф функции потерь. Для нейросети это чистый цифровой эквивалент удара током. Но этот метод не учит ИИ созиданию — он учит его избегать наказания.
3 просмотров