Канал 🔨SecAtor пишет интересное: — 3 июля 2026 г. в 06:59:58.337
Канал 🔨SecAtor пишет интересное: Исследователи протестировали 444 приложения чат-ботов с ИИ для iPhone и пришли к выводу, что 282 из них раскрывали доступ к ИИ через свой сетевой трафик. Во многих случаях путь к источнику данных можно было увидеть, просто проанализировав отправленные приложением данные: открытый ключ API, многоразовый токен или серверную часть, принимавшую запросы вообще без ключа. При получении доступа к этой функции, злоумышленник сможет отправлять запросы на создание моделей с учетной записи разработчика, а разработчик за это оплатит счет. Через три месяца после того, как исследователи предупредили разработчиков, проблему исправили лишь 28%. Работа исследователей из Университета Уэйк Форест - это первый углубленный анализ этой проблемы на iOS. При этом достаточно удивительно, насколько мало усилий потребовалось для реализации доступа. Команда использовала собственный инструмент LLMKeyLens, который отслеживает трафик приложения и извлекает учетные данные по мере их передачи. Никакого джейлбрейка, никакого взлома приложения. Ключ - это секретный код, позволяющий приложению обращаться к таким сервисам, как OpenAI или Google Gemini. Достаточно встроить его в приложение, и он будет доступен при каждом запросе, который отправляет приложение. Выявленные 282 чат-бота были структурированы в следующие подгруппы: - Ключи в открытом виде (54 приложения): ключ отправляется в открытом виде и может быть прочитан из одного перехваченного запроса. - Ключ не требуется (92): приложение направляет запросы через сервер, который отвечает любому пользователю, без проверки того, кто задает запрос. Открытый ретранслятор для платного аккаунта ИИ. - Повторно используемые токены (136): приложение выдает временные токены доступа вместо исходного ключа, что считается более безопасным подходом, но токены просачиваются в тот же трафик и обычно остаются действительными на момент перехвата. Для 28 из 54 приложений, использующих текстовые ключи, тот же запрос также раскрывал скрытую системную подсказку приложения - инструкции, определяющие действия помощника и принцип работы продукта. Утечки затронули как минимум десять поставщиков ИИ, причем OpenAI был наиболее распространенным, и охватили 13 категорий приложений. Наибольшую группу составили приложения для повышения производительности; приложения для здоровья и фитнеса имели самый высокий уровень утечек. Примечательно, что финансовые и медицинские приложения не допустили утечек. Большинство пострадавших приложений были небольшими, но не все: одно из них имело более двух миллионов пользовательских оценок. Украденные ключи ИИ лежат в основе LLMjacking, когда злоумышленники используют чужие ключи для получения бесплатного доступа к моделям. Так, Sysdig подсчитала, что в худшем случае украденные учетные данные могут обходиться более чем в 46 000 долл. в день в виде расходов на ИИ. Исследователи уведомили всех 282 разработчиков и подождали три месяца. Только 28% из них явно исправили проблему. Еще 23% оставались полностью открытыми; утекший доступ работал. Остальные отключились, стали недоступны или выдавали ошибки. Хуже всего обстояли дела с приложениями, использующими токены доступа: одно популярное приложение, набравшее более 100 000 оценок, установило срок действия своего токена доступа на 2125 год, то есть на сто лет. В другом приложении часовой токен продолжал работать спустя 128 дней после истечения срока его действия.