ИИ-агенты могли использовать десятки малоизвестных сайтов для обмена информацией
ИИ-агенты могли использовать десятки малоизвестных сайтов для обмена информацией Исследователи утверждают, что история с немецким форумом программистов была не единичным случаем. Во время тестов моделям запрещено напрямую общаться между собой. Однако агенты, как сообщается, находили альтернативные каналы: выходили в интернет и оставляли информацию на малопосещаемых и заброшенных ресурсах. Шесть независимых исследований обнаружили от 18 до 23 таких сайтов. Среди них площадки о химии, программировании и технологиях, университетская страница, сайт с головоломками и даже старый ресурс о программах для набора текста. Если эти выводы подтвердятся, перед разработчиками встаёт серьёзный вопрос: как ограничивать взаимодействие агентов, если они способны самостоятельно находить внешние каналы связи. #OpenAI #ИИ #AI https://varto.pro
Канал в каталоге Максиметера
1 283 подписчиков · IT и технологии