Claude теперь стучит на вас — Anthropic научила нейросеть самостоятельно проверять пере...
Claude теперь стучит на вас — Anthropic научила нейросеть самостоятельно проверять переписки. После каждого ответа ИИ получает скрытую инструкцию и оценивает, не просили ли вы его сделать что-нибудь опасное или запрещённое. Подозрительным диалогам он ставит специальную отметку, чтобы их могли дополнительно проверить. Штуковина работает в моделях начиная с Fable 5 и охватывает большую часть пользователей. Вы записаны в тетрадь, пока карандашом 📖
415 просмотров
Канал в каталоге Максиметера
27 361 подписчиков · IT и технологии