OpenAI GPT-5.6 модели теперь доступны на Amazon Bedrock для работы в Индии
OpenAI GPT-5.6 модели теперь доступны на Amazon Bedrock для работы в Индии 📝 Суть Amazon Bedrock добавил поддержку моделей OpenAI GPT-5.6 Terra и Luna, позволяя проводить инференс (обработку запросов) непосредственно в Индии. Это решает требования к локальной обработке данных для таких секторов, как финансовые услуги, здравоохранение и госсектор, с возможностью географического распределения запросов между регионами Мумбаи и Хайдарабад. 🔢 Факты • Новые модели обладают контекстным окном в 1 миллион токенов и поддерживают ввод текста и изображений с выводом текста. • Географическое распределение запросов внутри Индии позволяет маршрутизировать запросы между регионами Азии (Мумбаи) (ap-south-1) и Азии (Хайдарабад) (ap-south-2) для масштабирования и соответствия требованиям к конфиденциальности данных. • Для моделей GPT-5.6 Terra и Luna существуют специальные профили инференса: 'in.openai.gpt-5.6-terra' и 'in.openai.gpt-5.6-luna'. • Amazon Bedrock использует модель нулевого хранения данных (ZDR), что означает, что по умолчанию он не хранит входные или выходные данные моделей. • Модели GPT-5.6 на Amazon Bedrock поддерживают управление глубиной рассуждений через параметр 'reasoning' с уровнями от 'none' до 'max'. • Amazon Bedrock поддерживает кэширование промптов для моделей GPT-5.6, предоставляя скидку 90% на обработку токенов для повторяющегося контекста. • Для использования моделей GPT-5.6 через профиль инференса в Индии требуется предоставление IAM-роли доступа к самому профилю инференса, базовой модели в исходном регионе и базовой модели в каждом целевом регионе. • Модели GPT-5.6 на Amazon Bedrock поддерживают вызов через API OpenAI Responses, OpenAI Chat Completions и Amazon Bedrock Converse. ⚖️ Почему это важно Клиенты в Индии, особенно в финансовом секторе, здравоохранении и государственном управлении, теперь могут использовать передовые модели OpenAI, соблюдая при этом требования к локальному хранению данных и обрабатывая запросы внутри страны. ↗ Источник: https://aws.amazon.com/blogs/machine-learning/introducing-openai-models-on-amazon-bedrock-for-in-country-inferencing-in-india/