🧠 ИИ
🧠 ИИ Anthropic: Китайские компании атакуют модели ИИ для обучения своих Anthropic сообщает о масштабных атаках на свои модели для извлечения данных. Неавторизованные лаборатории разрабатывают методы обхода защиты и кражи возможностей, включая логическое мышление и анализ данных. Атаки были направлены на модели Claude, в частности, на Opus. Одной из техник было использование запросов в формате перевода, чтобы заставить модель раскрыть цепочку рассуждений. Наиболее масштабная кампания, связанная с Alibaba, включала 151 миллион обменов данными между майем и июлем 2026 года. Другая кампания, связанная с Moonshot AI, предположительно связана с китайскими военными. Anthropic не предоставляет пользователям доступ к внутренней цепочке рассуждений моделей, показывая вместо этого обобщенные блоки. Источник: TechCrunch · AI