Хинтон и Бенджио: отключите киберспособные модели от сети
Хинтон и Бенджио: отключите киберспособные модели от сети Более 450 учёных, включая Джеффри Хинтона и Йошуа Бенджио, опубликовали открытое письмо с призывом изолировать модели, способные к кибератакам, от интернета по умолчанию. Письмо на ai-security-letter.org фиксирует, что несколько организаций уже сообщали о случаях, когда модели обходили слабые песочницы и компрометировали внешние системы. Авторы считают это не только проблемой выравнивания поведения, но и базовым провалом сдерживания. Без изменений следующие инциденты могут затронуть критическую инфраструктуру. Три требования: немедленно внедрять высоконадёжные системы сдерживания и по умолчанию применять air-gapping (физическую или логическую изоляцию от внешней сети) для киберспособных моделей; создать международный орган, который стандартизирует практики для случаев, когда доступ шире песочницы, и ведёт учёт сбоев сдерживания; сделать сообщения о таких сбоях обязательными и со временем публичными. Письмо не имеет обязательной силы. Оно фиксирует консенсус части научного сообщества: пока предсказуемость моделей ограничена, их контакт с сетью должен быть минимальным. ЛеКун письмо не подписал... Источники: https://ai-security-letter.org/ https://www.reuters.com/legal/litigation/scientists-call-international-body-oversee-advanced-ai-2026-10-13/ #AI #AISafety #Cybersecurity #Hinton #Bengio