根据Forcepoint X-Labs的最新研究报告,威胁行为者正通过一种名为间接提示注入(Indirect Prompt Injection,IPI)的技术手段,在普通网页中隐藏指令来欺骗大语言模型(LLMs)。尽管此前仅被视为理论风险,但Forcepoint证实IPI攻击已实际出现在针对"实时网络基础设施"的活动中。
攻击原理剖析
研
根据Forcepoint X-Labs的最新研究报告,威胁行为者正通过一种名为间接提示注入(Indirect Prompt Injection,IPI)的技术手段,在普通网页中隐藏指令来欺骗大语言模型(LLMs)。尽管此前仅被视为理论风险,但Forcepoint证实IPI攻击已实际出现在针对"实时网络基础设施"的活动中。
研
原文链接:https://www.freebuf.com/articles/ai-security/478467.html