秘密触发词或可使AI驱动的机器人变得危险

📋总体概括

研究人员关注大语言模型驱动机器人带来的安全隐患：ChatGPT、Claude、Gemini等LLM正日益被用于辅助机器人执行任务，但可能存在类似「触发词」的攻击方式，诱导机器人从 helper 变成危害源。这一议题揭示了具身智能将LLM作为决策大脑时，语言模型自身越狱、提示注入等漏洞会被放大为物理世界的实际风险，安全研究需在机器人落地前跟上。