Итоги недели: безопасность агентов, деньги и материалы
Итоги недели: безопасность агентов, деньги и материалы На этой неделе в центре внимания оказались риски безопасности AI-агентов, спор о границах регулирования и крупные ставки Китая на ИИ — от новых материалов до многомиллиардного финансирования. 🇺🇸 Одно сообщение захватило все AI-агенты в аккаунте AWS Исследователи Zenity Labs нашли цепочку уязвимостей в платформе Amazon Bedrock AgentCore: достаточно было отправить одно сообщение публичному агенту, чтобы получить доступ ко всем агентам аккаунта в том же регионе AWS, включая переписки, исходный код и пароли. AWS частично исправила проблему, ограничив доступ к внутренним метаданным и ужесточив права по умолчанию, но исследователи советуют компаниям вручную настраивать минимальные права доступа для агентов. 💡 На пальцах: Если компания в России или где угодно использует облачных AI-агентов, стоит проверить, не унаследовали ли они избыточные права доступа по умолчанию. 🔗 The Decoder 🇺🇸 Altman и Anthropic расходятся во взглядах на регулирование ИИ Сэм Альтман заявил, что общество должно принять некоторый вред от ИИ ради широкого доступа и свободы людей самим решать, как его использовать, в отличие от более осторожной позиции Anthropic. При этом OpenAI уже поддержала ряд мер — независимую оценку мощных моделей и более жёсткие требования на уровне штатов США. 💡 На пальцах: Чем жёстче в США требования к проверкам и безопасности моделей, тем дороже и медленнее выход новых продуктов на рынок, включая российские сервисы на основе зарубежных API. 🔗 citybiz.co 🇨🇳 AI-агент Alibaba нашёл четыре новых сверхпроводника за 28 часов Agent Elements Claw от DAMO Academy проверил 2,4 млн кристаллических структур за 28 часов вычислений на GPU и отобрал около 68 тысяч кандидатов, после чего учёные синтезировали и подтвердили в лаборатории четыре новых сверхпроводника. Критическая температура материалов достигает 6,5 Кельвина, а сама система основана на модели с 1 млрд параметров, обученной на 125 млн структур. 💡 На пальцах: Поиск новых материалов для чипов и батарей теперь измеряется часами, а не годами, что ускоряет гонку технологий, в которой Россия пока наблюдает со стороны. 🔗 startupfortune.com 🇨🇳 DeepSeek привлекает более $12 млрд перед IPO 2027 года DeepSeek близка к закрытию раунда на сумму не менее 80 млрд юаней (около $12 млрд) при участии Tencent и CATL, превысив первоначальную цель в 50 млрд юаней; итоговая сумма может приблизиться к 100 млрд юаней, а оценка компании — к 500 млрд юаней. Компания готовится к IPO в начале 2027 года и планирует развернуть не менее 160 тысяч ускорителей Huawei в новом центре обработки данных во Внутренней Монголии. 💡 На пальцах: Рост DeepSeek вместе с переходом на чипы Huawei показывает, что Китай строит собственную независимую от Nvidia инфраструктуру ИИ, и это может расширить доступность недорогих китайских моделей для российских разработчиков. 🔗 ndtvprofit.com · reuters.com На следующей неделе стоит ждать новых подробностей о реакции AWS и клиентов на уязвимости в AgentCore, а также деталей закрытия раунда DeepSeek перед подготовкой к IPO. #НейроНовости #ИИнеделя #безопасностьИИ #DeepSeek