工业AI开始碰真机器，安全成了入场券

工业AI正在换挡。过去几十年，它在工厂里扮演的是“幕后军师”——预测性维护、良率分析、排产优化，输出建议，拍板的始终是人。而随着基础模型、物理AI和智能体AI的成熟，AI第一次有能力直接自动化工业环境中的复杂任务。

但这里有一条清晰的分界线：纯数字世界的AI，错了可以重来；工业AI直接作用于物理系统，错了就是停线、报废，甚至人身安全。

本文的核心判断一句话：下一轮工业AI竞争的分水岭，不是谁的模型更聪明，而是谁能给“会动手的AI”修出一条安全通路。

这不是危言耸听。据德国传感器公司Senseye（已被西门子收购）2022年发布的《停机真实成本》报告测算， unplanned downtime（计划外停机）每年给《财富》全球500强企业造成的损失约1.5万亿美元，相当于其年营业额的11%[1]。工业现场对“错一次”的容忍度，就是用这种量级的账单标定出来的。

📈 从看报表到动手，工业AI换了赛道

在数字世界，AI的战场是信息流。可大多数工厂的AI应用，本质都是“看数据、出报告”：传感器数据进来，模型跑一遍，告诉你这台设备三个月后可能出故障，那批物料该调整排期。

这套玩法跑了几十年，价值真实存在，但天花板也肉眼可见——它始终停留在“建议层”，物理世界里的每一个动作，最后还是由人来执行。

现在不一样了。基础模型让机器第一次真正“看懂”了非结构化的现场：摄像头里的异件、工人手上的操作、设备运转的异常声音。物理AI让算法的输出从一串数字变成了设备的实时动作。而智能体AI则更进一步——它不再等待人类逐步下达指令，而是自主拆解任务、规划步骤、调用工具、验证结果。

资本市场已经用真金白银给这个换挡投了票：2024年初，人形机器人公司Figure AI获得微软、OpenAI、英伟达和贝索斯等参投的6.75亿美元融资，估值26亿美元，BMW已在其斯帕坦堡工厂试点部署Figure 02执行钣金件上下料[2]；同年11月，专注机器人基础模型的Physical Intelligence拿下4亿美元融资，投资方包括杰夫·贝索斯和OpenAI[3]。这些公司融资叙事的核心都不是“机器人更好了”，而是“模型第一次能直接操作物理世界了”。

技术演进的脉络大致是这样的：

• 过去数十年 ： 预测分析与专用应用主导，AI只碰信息不碰机器
• 近期 ： 基础模型成熟，机器开始理解语言与视觉
• 当下 ： 物理AI让算法直接驱动设备
• 正在发生 ： 智能体AI尝试自主编排跨设备任务

这三代技术叠在一起，意味着自动化边界从“信息流”推进到了“物理流”。

这个产业逻辑很直白：信息流的自动化市场已经做透了，物理流的自动化才是增量所在——但风险敞口也同步放大了几个量级。按国际机器人联合会（IFR）2024年报告，2023年全球工厂在役工业机器人存量已达约428万台，当年新增装机54.1万台；韩国每万名工人机器人密度超过1000台，德国约429台[4]。这400多万台存量设备，就是物理AI潜在的作用对象，也是潜在的风险敞口。

⚠️ 数字错了能重启，物理错了会砸人

在数字世界，bug的代价是刷新页面；在物理世界，bug的代价可能是砸碎一批工件。

这是工业AI和互联网AI最本质的差异。数字AI给错一次推荐，运营人员可以否决、可以回滚、可以下一版再改；机械臂执行错一个动作，零点几秒之内就变成了物理现实——没有撤回键。协作机器人安全规范ISO/TS 15066甚至为人体各部位规定了碰撞时允许的最大压力和压强上限——头部、颈部的限值低到只有几牛到两百牛的量级，留给“AI手抖”的空间是 anatomical 级别的苛刻[5]。

更麻烦的是，工业控制体系和大模型天生“三观不合”。

传统工业控制讲的是确定性：PLC的扫描周期精确到毫秒，控制逻辑可枚举、可验证、可复现，每一行代码的行为都在预期之内。这套体系运转了几十年，背后是IEC 61508、ISO 13849这些用无数安全标准和人命换来的教训——功能安全体系甚至为“危险失效概率”划定了从SIL1到SIL4的量化等级。

而基础模型的本质是概率性的。同一个输入，输出的置信度在波动；面对训练分布之外的工况，行为不可完全预知。把一个概率系统直接接到一个毫秒级确定性要求的物理系统上，中间的缝隙就是当前最难啃的工程问题。

技术栈的层级关系可以这样理解：

注意这个结构里最关键的一层：安全层。它不是可选项，而是概率模型通往物理系统的必经关口。没有这一层，上面三层的聪明程度越高，下面的物理系统就越危险。

行业里流传一句半开玩笑的话：“演示视频和产线之间，隔着一份安全案例。” Demo里机器人动作行云流水，客户问的第一个问题永远是——它出错怎么办？答不上来，订单就没了。一个颇具代表性的注脚是：2024年8月，亚马逊没有收购机器人基础模型公司Covariant，而是收编了其约四分之一的员工（包括创始人）并获得模型非独占授权[6]——模型可以授权买来，但知道“它在真产线上怎么不出事”的团队，只能整体打包带走。

🔧 能力在涨，确定性还没跟上

模型的能力曲线陡峭上扬，但工厂要的确定性曲线几乎是平的——这两条线的落差，就是当前落地的真实难度。

💡 一个务实的认知是：智能体AI的自主性，不可能一步放开，只能逐级解锁。从“只出建议”，到“单步执行”，再到“多步任务编排”，每放开一级，验证成本都是指数级上升。因为错误不再是孤立的，而是会级联的——智能体规划错一步，后面每一个动作都在放大这个错误。

从工程量分配看，目前多数团队投入的大头并不在训练模型，而在验证与安全兜底。模型训练可能只占三成精力，剩下七成都花在“怎么证明它不会出事”上。这不是效率低，这是工业现场对确定性的硬性要求。西门子与微软联合推出的Industrial Copilot走的就是这条路：大模型只负责生成PLC代码和给工程师当助手，代码的下载与执行仍走传统工程流程——2024年，采埃孚（ZF）和蒂森克虏伯自动化系统公司先后宣布在工程环节接入该工具[7]。注意，它的落点是“辅助写代码”而不是“直接操作设备”——头部厂商的第一步，也是从最安全的那一级开始的。

🔑 安全的本质不是“让AI永远不出错”，而是“AI出错时，物理世界不付出不可接受的代价”。这决定了安全设计的三个抓手：

1. 约束动作空间——AI只能在预设的设备范围和动作边界内操作，越界即熔断；

2. 多层校验——模型的每一次决策，都要经过独立于模型本身的安全规则审核；

3. 可降级——一旦置信度异常或传感器矛盾，系统自动退回人工模式，而不是硬着头皮执行。

对应到部署节奏，业界已经形成了一套大致的共识路径：

每一级都不是技术炫技，而是在积累安全案例。 没有上一级的充分验证，就不该碰下一级——这是工业和互联网创业最不同的地方，互联网可以快速试错，工业试错的成本是物理的。亚马逊的路径是这一逻辑的极端版：超过75万台机器人[10]先在围栏内的搬运、分拣场景跑了十年，才敢让机器人在人与货架混行的区域工作。

🧮 一道算不出来的数学题：为什么“测到安全”是死路

这里提出一个多数落地讨论没有触及的判断：功能安全的验证要求，在数学上封死了“先大规模试、用数据证明安全”这条互联网式路径。

算一笔账。IEC 61508对SIL3等级的要求是危险失效概率不高于10⁻⁹/小时。如果靠黑盒统计来“证明”一个AI驱动的执行系统达到这个水平——假设部署1000台设备、7×24小时不间断运行，要累计运行10⁹小时才能在统计上“看到”一次边界，那是11.4万年的验证时间。换句话说，靠运行时长堆出来的安全证据，在数学上永远追不上确定性安全等级的要求。 这就是为什么自动驾驶和自主系统的安全认证（如UL 4600）普遍放弃了纯测试路线，转向“安全案例”（Safety Case）论证模式：不证明“它测过了”，而是要求厂商构建一套可审计的论证链——危害分析、场景覆盖、降级设计、独立校验，环环相扣，由第三方评审[11]。

这个判断的直接推论常被忽视：数据飞轮护不住安全，安全证据链才是可审计资产。 互联网公司习惯了“数据是护城河”，但在工业AI里，运行数据可以喂模型，却不能作为安全论证的核心证据——能作为证据的，是结构化的危害分析文档、校验规则集、降级触发记录。这意味着互联网出身的团队最擅长的武器，在这条赛道上只有一半有效；而“把运行数据整理成可审计的安全论证”这个能力，目前全球范围内的成熟供给方是TÜV、UL这类认证机构，不是任何一家AI公司。未来两三年，很可能长出一个新的中间层产业——“AI安全论证服务商”，它既不是模型公司，也不是认证机构，而是两者的翻译者。 这个位置目前几乎是空的。

🏭 落地没有捷径，只有层层设防

⚠️ 很多团队容易犯一个错误：把安全当成最后一道墙，产品做完了再“补安全”。但在工业场景，安全不是一道墙，是一条流水线——它必须嵌在决策链路的每一环里。

一个典型的安全闭环长这样：

拆开看这条链路的门道：

第一环，校验层必须独立于模型。 用模型自己校验自己，等于让考生批自己的卷子。安全规则必须来自传统工业控制那套确定性体系——可枚举的逻辑、硬编码的边界、毫秒级的响应，这是大模型给不了、也替代不了的部分。

第二环，降级路径要预先设计。 出问题时系统往哪退？退到人工？退到上一级半自动？还是原地安全停机？这些预案必须在部署前就定义清楚，而不是等事故发生了再想。

第三环，监控数据要回流。 每一次执行、每一次降级、每一次人工接管，都是最宝贵的安全案例数据。这些数据喂回去，模型的边界才会越推越准——这也是先行者能拉开身位的地方。

标准体系也在追着这个现实跑。2025年2月发布的工业机器人安全标准新版ISO 10218，首次明确把机器学习（ML）和AI纳入安全考量范围，承认了“学习型组件可以进入安全相关系统”这个此前不被允许的前提，同时为其设置了额外的验证义务[12]。标准的松绑意味着门开了，但门上的锁更复杂了。

对产业玩家来说，这条路径意味着两件事：

其一，商业化节奏必然是慢变量。回本周期长、验证周期长，指望像互联网产品一样快速迭代收割，不现实。但反过来，一旦跨过安全验证门槛、在一个场景里跑通了闭环，竞争者想追，也得把同样的路重新走一遍——安全案例的积累本身就是时间壁垒。

其二，懂OT的人和懂AI的人必须坐在一张桌子上。只有模型团队做不了工业AI，只有自动化老团队也做不了。未来的赢家，大概率是那批能把确定性控制体系和概率模型缝合起来的公司。

这里补一个可能反直觉的判断：这轮价值分配的天平，大概率向确定性那一端倾斜，而不是模型那一端。 逻辑很朴素——安全认证的成本和责任，会沉淀在拥有确定性兜底层的一方；模型可以被替换、被授权、被开源（正如亚马逊与Covariant的交易所示[6]），但经过认证的安全架构是绑定具体物理系统、无法迁移的。换句话说，AI公司在这局牌里更可能扮演“给西门子们供货的芯片公司”，而不是“平台公司”。愿意接受这个生态位约束的团队，反而活得久。

💡 小结：安全不是成本项，是护城河

回到开头那个判断：工业AI的下半场，比的不是谁的模型分数高，而是谁能给“会动手的AI”装上刹车和保险。在数字世界，安全是合规成本；在工业世界，安全是入场券，也是最难复制的护城河。

基础模型、物理AI、智能体AI打开了物理自动化的巨大增量空间，但空间的钥匙握在安全能力手里。前瞻地看，未来两三年行业的主线，就是谁能率先跑通“概率模型+确定性兜底”的闭环——谁先做到，谁就能把演示视频变成真订单，把真订单变成规模化复制的产线。

工业AI这场牌局，聪明是底牌，安全才是叫牌的资格。

参考信源

1. Senseye（西门子旗下），《The True Cost of Downtime 2022》

2. Figure AI官方公告及Bloomberg报道（2024年2月）；BMW集团与Figure合作公告（2024年1月）

3. Reuters、The Information关于Physical Intelligence融资的报道（2024年11月）

4. IFR（国际机器人联合会），《World Robotics 2024》

5. ISO/TS 15066:2016《Robots and robotic devices — Collaborative robots》附录A人体区域压力/压强限值表

6. Amazon与Covariant人才与授权交易，TechCrunch报道（2024年8月）

7. 西门子与微软Industrial Copilot发布（2023年11月SPS展）；采埃孚、蒂森克虏伯自动化系统公司应用公告（2024年）

8. Mercedes-Benz与Apptronik试点合作公告（2024年3月）

9. GXO Logistics与Agility Robotics人形机器人RaaS部署公告（2024年6月）

10. Amazon 2024年公开披露数据：全球在役机器人超75万台

11. UL 4600《Standard for Safety for the Evaluation of Autonomous Products》

12. ISO 10218-1/-2:2025（2025年2月发布），首次纳入机器学习/AI相关安全要求