Microsoft и лично её CEO Сатья Наделла предложили пересмотреть базовый уровень доверия ...
Microsoft и лично её CEO Сатья Наделла предложили пересмотреть базовый уровень доверия к ИИ-моделям: считать их потенциально «скомпрометированными» по умолчанию, а не полагаться на заверения разработчиков. Эссе на эту тему Наделла опубликовал в X 10 октября. «Мы должны исходить из того, что модель скомпрометирована, и с самого начала держать её под контролем, — написал он. — Представьте это как аварийный тормоз» (перевод, TechCrunch). Контекст: по замыслу Наделлы, уполномоченный сотрудник должен иметь возможность приостановить или отключить модель прямо во время выполнения задачи, значимые действия модели — фиксироваться в защищённом от подмены журнале, а «поставка интеллекта» и «права на действие» — быть разделены. Для команд, которые встраивают ИИ в поиск, аналитику и разработку, это важный сигнал: ответственность за поведение агента несёт не вендор модели, а тот, кто её разворачивает. Источник: TechCrunch, 10 октября 2026 — https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-models-need-an-emergency-brake/ Вопрос подписчикам: достаточно ли «аварийного тормоза» и журналов действий — или отрасли нужна полноценная сертификация ИИ-моделей? 🤔 #ИИ #безопасность