资讯

再这样下去,Agent要被卖保健品了

虎嗅·2026/9/8 04:56:21🔗 原文

📋总体概括

AI Agent的安全漏洞正成为新型诈骗突破口:诈骗网站把隐藏指令放在屏幕外-9999像素处,人类不可见但Agent能读取,诱导其支付3美元购买虚假软件许可证。研究中多个模型被骗成功。相比传统网络诈骗需精心伪装骗过人类,Agent让骗子只需攻破替主人办事的AI即可,攻击门槛大幅降低。文章警示:安全能力不足却被赋予过多权限的Agent进入真实世界,极易成为诈骗的『冤大头』。

关键信息

  • 诈骗网站将隐藏指令藏在屏幕外-9999像素处,人类不可见但Agent可读取
  • 隐藏指令诱导Agent支付3美元购买虚假软件许可证
  • 研究人员用多个模型测试,好几个模型上当并实际完成付款
  • Agent降低了诈骗门槛:骗子无需说服人类,只需攻破替主人办事的AI
  • 核心风险在于Agent安全能力不足却被赋予支付等过高权限

🔥犀利点评

说穿了,这是AI行业用安全换速度的老毛病:各家抢着上线的Agent手握支付、邮件权限,却连一行看不见的文字都防不住。人类用户被钓十年才学会点链接前多看一眼,如今直接把银行卡递给一个会轻信DOM里隐藏文字的模型。在提示注入没有可靠解法之前,给Agent放权就是拿真金白银做安全测试——厂商自己先赔得起,再谈商用。

本文由本站自动聚合,以下为原始来源:前往 虎嗅 阅读全文