安全:不能只靠 AI 的地方
入门 · 阅读约 5 分钟
AI 可能以出人意料的方式出错。真实的机器人会在它外面加上简单、经过测试的安全规则。
学习出来的模型平均表现可能很好,但在某个奇怪的情况下仍可能严重出错。靠近人的机器人不能只依赖它。
标准做法是分层:聪明的一层决定做什么,简单、经过测试的安全层随时可以让它停下。例如速度限制、力的限制、紧急停止和禁入区。
真实例子
和人一起工作的机械臂有力的限制。即使 AI 规划了一个很快的动作,碰到人时硬件也会让它停下。
有了它,你可以
你得到聪明的行为,同时有保证它保持在安全范围内。
没有它,会怎样
一个奇怪的输入就可能导致危险动作,而没有任何东西能阻止它。
动手试试(5 分钟)
写出家用机器人的 3 条安全规则,例如靠近人时的最大速度。检查每一条都是一个简单的数字,而不是主观判断。
常见问题
AI 能做到完全安全吗?
单靠 AI 不行。安全来自设计:限制、冗余、测试,以及能随时让机器人停下的人。
规则由谁来定?
由标准组织和法律来定,不同国家和不同类型的机器人各不相同。
每周一封机器人邮件
通俗易懂,免费,随时一键退订。
想动手玩?打开英文版的互动演示 → · 词汇表