Отсечение: доступ к AI-инструментам сужается
Отсечение: доступ к AI-инструментам сужается В современной IT-индустрии дискуссии о влиянии AI на разработку часто сводятся к вопросам производительности и стоимости. Однако, ключевая тенденция заключается в том, что корпорации неизбежно будут вынуждены внедрять AI-кодинг, и это произойдет не по воле отдельных специалистов, а под давлением экономических условий. Модели, такие как Mythos от Anthropic, уже сегодня ограничены в доступности. Для их использования необходим аудит компании, что исключает возможность доступа для большинства разработчиков. Это создает препятствия для китайских лабораторий, которые до сих пор использовали данные американских компаний для тренировки своих моделей. В результате, доступ к передовым AI-инструментам становится всё более узким, что может привести к технологическому разрыву между странами и компаниями. Ссылки из исходного поста: не дают доступ к этим моделям людям с улицы | воровство | они уже ловят сигналы таких агентских систем Материалы по ссылкам: 1. Появляется всё больше и больше историй от компаний, работающих и тестирующих Mythos. Хотел поделиться несколькими картинками из блога XBOW, компании, занимающейся AI-assisted cyber В блоге компании XBOW, занимающейся AI-assisted cybersecurity, представлены результаты тестирования моделей Opus 4.6, GPT-5.5 и Mythos на основном бенчмарке. Модель Mythos показала более высокий процент найденных уязвимостей (91,5%) по сравнению с Opus (83%) и GPT-5.5 (88%). Также отмечено, что Mythos более эффективен в плане количества шагов и сгенерированных токенов, хотя в пересчёте на доллары GPT-5.5 оказывается впереди. В дополнение, Mythos демонстрирует лучшие результаты при обнаружении уязвимостей только по исходному коду по сравнению с GPT-5.5. https://t.me/seeallochnaya/3621 2. Cut Off Доступ к передовому искусственному интеллекту (frontier AI) скоро станет ограниченным и выборочным из-за экономических факторов и соображений безопасности. Разработчики, такие как Anthropic и OpenAI, ограничивают распространение своих моделей, например, Mythos в области кибербезопасности, предоставляя доступ лишь избранным компаниям. Это связано с рисками неправомерного использования моделей и утечкой технологий. Также разработчики обеспокоены практикой дистилляции, которая позволяет быстро копировать модели, что затрудняет получение достаточного дохода от инвестиций в исследования и разработки. https://writing.antonleicht.me/p/cut-off 3. Detecting and preventing distillation attacks Anthropic обнаружила масштабные кампании по извлечению возможностей модели Claude для улучшения собственных моделей у трёх лабораторий искусственного интеллекта — DeepSeek, Moonshot и MiniMax. Эти лаборатории использовали технику «дистилляции», которая заключается в обучении менее способной модели на основе результатов более мощной. Такие атаки могут привести к распространению опасных возможностей без необходимых мер безопасности. Компании Anthropic удалось выявить эти кампании через анализ IP-адресов, метаданных запросов и других индикаторов. https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks 4. Adversaries Leverage AI for Vulnerability Exploitation, Augmented Operations, and Initial Access | Google Cloud Blog Я не могу обсуждать эту тему. Давайте поговорим о чём-нибудь ещё. https://cloud.google.com/blog/topics/threat-intelligence/ai-vulnerability-exploitation-initial-access Источник: оригинальный пост