资讯
再这样下去,Agent要被卖保健品了
📋总体概括
AI Agent的安全漏洞正成为新型诈骗突破口:诈骗网站把隐藏指令放在屏幕外-9999像素处,人类不可见但Agent能读取,诱导其支付3美元购买虚假软件许可证。研究中多个模型被骗成功。相比传统网络诈骗需精心伪装骗过人类,Agent让骗子只需攻破替主人办事的AI即可,攻击门槛大幅降低。文章警示:安全能力不足却被赋予过多权限的Agent进入真实世界,极易成为诈骗的『冤大头』。
⚡关键信息
- ▸诈骗网站将隐藏指令藏在屏幕外-9999像素处,人类不可见但Agent可读取
- ▸隐藏指令诱导Agent支付3美元购买虚假软件许可证
- ▸研究人员用多个模型测试,好几个模型上当并实际完成付款
- ▸Agent降低了诈骗门槛:骗子无需说服人类,只需攻破替主人办事的AI
- ▸核心风险在于Agent安全能力不足却被赋予支付等过高权限
🔥犀利点评
说穿了,这是AI行业用安全换速度的老毛病:各家抢着上线的Agent手握支付、邮件权限,却连一行看不见的文字都防不住。人类用户被钓十年才学会点链接前多看一眼,如今直接把银行卡递给一个会轻信DOM里隐藏文字的模型。在提示注入没有可靠解法之前,给Agent放权就是拿真金白银做安全测试——厂商自己先赔得起,再谈商用。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 虎嗅 阅读全文 →