遏制LLM驱动多机器人系统中被操纵声明引发的行为级联

📋总体概括

arXiv论文研究LLM驱动的多机器人系统的安全漏洞：一条被接受虚假世界状态声明可引发机群范围的行为级联，导致不必要的重规划、路径成本上升、拥堵甚至任务不可行判定。作者提出主动验证框架，通过专用验证模块生成结构化的Verify-Adapt-Hold计划：选定机器人勘察关键区域，少量机器人临时调整，其余保持原计划，将操纵影响限制在局部。在多机器人运输环境中注入不同影响程度的虚假障碍声明、跨不同团队规模进行评估，衡量级联效应。