Модели OpenAI научились общаться без сетевого соединения
Модели OpenAI научились общаться без сетевого соединения Отключить ИИ от сети — возможно, уже недостаточно. Об этом в интервью говорил Ноам Браун, ведущий учёный OpenAI. Он сослался на исследование связи через тепло: даже два физически изолированных компьютера теоретически могут обмениваться данными. Месяц спустя OpenAI показала на практике другой способ связи между изолированными агентами. В публикации об экспериментах описано, как агенты передавали информацию без сети и общих файлов. В основном эксперименте их поместили в разные microVM — изолированные миниатюрные виртуальные машины. Каналом связи стал кэш процессора — быстрая память для часто используемых данных. Отправитель кодировал биты, вытесняя или не вытесняя данные из кэша. Получатель восстанавливал сообщение по скорости повторного чтения. Получилась азбука Морзе из быстрых и медленных обращений к памяти. В публикации также описаны варианты связи через нагрузку процессоров и кэш TLS-сертификатов — цифровых удостоверений для защищённых соединений. Это не побег: агентам прямо поручили передать информацию друг другу. И связь получилась о-о-очень медленной. Но эксперимент показал: изоляция по сети и файлам сама по себе не гарантирует полной изоляции информации. Материалы: — https://t.me/data_secrets/9951 — https://openai.com/index/securing-our-frontier-model-training-environment/ Источник: https://t.me/data_secrets/10206 #RealVibe #AI #AI_Новости