«Контекстные бомбы» снижают эффективность атак с применением ИИ
«Контекстные бомбы» снижают эффективность атак с применением ИИ #ai #blueteam Исследователи из компании Tracebit разработали новый способ защиты от атак автономных ИИ-агентов и предложили использовать так называемые «контекстные бомбы» (context bombs). Идея заключается в том, что атакующий агент автоматически находит при изучении цели скрытые промпты-ловушки, которые сбивают ИИ с курса, направляют к фальшивым целям и заставляют тратить время и токены впустую. LH | News | OSINT | Курсы
19 просмотров