2/2
2/2 👆Пост появился на фоне спора о том, могут ли разработчики передовых ИИ-моделей качественно следить за безопасностью собственных систем. Трамп и Хуанг делают основной упор на быстрый технологический прогресс, существующее законодательство и ответственность самих компаний, но мнения в индустрии звучат разные: ❗️ Мустафа Сулейман: конкуренция с Китаем не должна использоваться как повод отказаться от дополнительных правил и ограничений безопасности ⭕️ Сэм Альтман пока молчит. Ранее он согласился с Амодеем и поддержал идею замедления развития наиболее передовых систем и заявил. Глава OpenAI в ближайшее время должен выступить на заседании Совета Безопасности ООН по вопросам ИИ и международной безопасности. ❗️ Дженсен Хуанг: новых законов и правил не требуется, существующего законодательства достаточно, а развитие ИИ следует максимально ускорять при сохранении безопасности. 🈁 Дарио Амодей предлагал замедлить рост возможностей передовых моделей, чтобы методы защиты адекватно поспевали за разработкой. Его план предполагает постоянных внешних проверяющих с доступом. ❗️ Генеральный директор Google DeepMind Демис Хассабис 12 сентября поддержал направление предложения Дарио Амодея. Он написал, что текст Амодея «указывает на правильный путь», хотя конкретные детали ещё предстоит проработать. ❗️ Илон Маск поддержал призыв Дарио Амодея замедлить темп развития передовых ИИ-моделей, ответив на его публикацию словами «Дарио прав». Кроме того, 18 сентября Anthropic объявила о партнёрстве с Accenture, в котором проверками займётся подразделение Faculty. Внешним специалистам обещают возможность наблюдать за обучением моделей, изучать решения разработчиков и тестировать защитные механизмы. Интересно то, что 💸оплачивать работу Accenture будет сама Anthropic. ✋ @Russian_OSINT