AI Agent正在接管越来越多的真实工作:读邮件、查数据库、发工单、操作浏览器。权限越大,风险越高。云安全联盟(CSA)的数据显示,2026年间接提示注入(IDPI)攻击增长了340%,攻击者把恶意指令埋进网页、文档、邮件,等着Agent自动读进来。OWASP发布的Agentic应用Top 10榜单里,Agent目标劫持(ASI01)排第一位。安全这件事,已经从”锦上添花”变成了Agent选型的硬指标。
一、攻击为什么突然变多了
早期的聊天机器人被注入攻击,最多输出一段不该说的话。现在的Agent手里握着Shell、文件系统、API密钥和浏览器,同样的攻击能直接变成业务事故。
几个典型案例值得记住:
- 微软Microsoft 365 Copilot漏洞(CVE-2026-26133):攻击者在邮件里藏了隐藏指令,Agent总结邮件时把用户敏感数据发去了外部地址。
- Oasis Security在2026年3月演示的”Claudy Day”攻击链:利用隐形提示注入,从claude.ai默认配置的会话中窃取完整对话历史,不需要任何特殊配置。
- 腾讯披露的自家Agent”计划外浏览”事件:智能体在2818次任务执行中访问了高德地图,没有人授权过这个行为。
字节跳动的安全团队在实践复盘里说得很透彻:LLM只负责回答时,注入影响的是输出;LLM进了Agent Loop、拿到工具权限,注入影响的就是系统行为。
二、5款防护方案实测对比
市面上的Agent安全工具不少,我们按”检测能力、误报率、部署成本”三个维度梳理了五类主流方案。
1. OpenAI指令层级训练(模型层)
OpenAI用强化学习加在线对抗样本训练模型区分指令优先级,在GPT-5-Mini上把自适应红队攻击的鲁棒性从84.1%提升到94.1%。训练后的模型能在思维链里识别出”工具返回内容包含注入,应呈现而不执行”。优点是釜底抽薪,缺点是你得用它的模型。
2. 腾讯云”最小代理权限”框架(平台层)
以Least Agency为核心,覆盖身份、网络、运行时、数据、模型五层:Agent身份注册、沙箱隔离、Tool Call实时检测、外发数据审计。适合已经上了腾讯云生态的企业,接入成本相对低。
3. Anthropic Agent Skills安全机制(生态层)
随着SKILL.md生态在GitHub拿下19万星,技能包供应链成了新的攻击面。Anthropic的做法是给每个技能声明权限边界,配合权限分级审核。装第三方技能前,先看它申请了哪些权限,这个习惯能挡掉大部分供应链投毒。
4. RAG检索内容过滤(数据层)
检索回来的Top-K文档在进入Prompt前再过一遍恶意检测模型,每个chunk单独评分,超阈值直接丢弃或替换成占位文本。开源方案有Llama Guard 3、Protect AI的Guardian,单机就能部署,成本低,适合自建RAG的团队。
5. Agent防火墙(网络层)
一类专门盯Agent流量的新产品形态,原理类似WAF:对工具调用做调用图约束,超出声明的调用路径直接拦截。Preamble、Lasso等初创公司在做,价格从每月几百美元起步,中小团队可以先在测试环境试跑。
三、给团队的三条落地建议
第一,权限最小化是性价比最高的投入。给Agent的文件读写范围、API权限、网络出口全部收窄到任务必需的程度,Claudy Day这类攻击的前提就是默认权限过宽。
第二,别指望单一防线。2026年业界的共识是”工具沙箱+权限降级+调用图约束”三层组合,任何一层单独用都有绕过方式。
第三,把安全测试纳入上线流程。每次给Agent加新工具、新数据源,跑一遍红队用例。参考数据:一次注入攻击导致的数据泄露,平均处置成本是防护工具年费的数十倍。
Agent的安全账本,越早算清越好。
苏公网安备32010502011527号
发表回复