Коротко о том как самые крупные в мире компании заботятся о нашем будущем: — 28 июля 2026 г. в 16:29:19.457
Коротко о том как самые крупные в мире компании заботятся о нашем будущем: Ни одна ИИ-лаборатория не получила выше «тройки с плюсом» по безопасности. Future of Life Institute оценил девять компаний (Anthropic, OpenAI, Google DeepMind и другие) по 37 показателям. Лучший результат — C+ у Anthropic. При этом несколько лидеров индустрии тихо отказались от прежних обещаний останавливать разработку при приближении к опасным порогам. Линк: futureoflife.org/ai-safety-index-summer-2026 3 главных проблемных точек: 1. Экзистенциальная безопасность — провал у всех без исключения. Ни одна компания не превысила C-, у большинства оценка D и ниже. Есть отдельные попытки — конституционные классификаторы Anthropic, призывы OpenAI к созданию управляющих институтов — но эксперты сочли их «совершенно недостаточными». 2. Лидеры тихо отказались от обещаний останавливаться. Anthropic, OpenAI, Google DeepMind и Meta ослабили или аннулировали обязательства приостановить разработку при приближении к опасным порогам — некоторые обусловив это действиями конкурентов. Рецензенты назвали это «сдвигом ворот», который «подорвал системы безопасности по всей отрасли». 3. Военный разворот. С 2024 по 2026 год компании, включая Anthropic, OpenAI, Google DeepMind и Meta, которые раньше запрещали военное применение своих моделей, постепенно свернули этот запрет и присоединились к xAI и Mistral в поиске оборонных контрактов. 💲 Если в вашей компании ИИ уже используют, а правил для этого ещё нет — пишите, обсудим за 30 минут → Максим Орлов