重大进展！谷歌 AI 团队起草“机器人宪法”，以确保不会伤人

文章来源：财联社

编辑：周子意

谷歌DeepMind机器人团队周四（1月4日）公布了三项新进展；其中引人注目的是，该团队起草了“机器人宪法”，确保机器人助理不会伤害到人类；具体来看，DeepMind对机器人进行了编程，对其关节处设限，并安装了一个物理终止开关。

图片来源：由无界 AI生成

谷歌 DeepMind 机器人团队周四（1 月 4 日）公布了三项新进展，称这些进展将帮助机器人在做出更快、更好、更安全的决策。

此次更新引入了 AutoRT、SARA-RT 和 RT-Trajectory 三个系统，分别改进了机器人的数据收集、速度和泛化。

其中较为引人注目的是，DeepMind 起草了“机器人宪法”，并将其引入数据收集系统 AutoRT，以确保你的机器人助理不会伤害到人类。

“机器人宪法”的灵感来自美国科幻小说家艾萨克・阿西莫夫（Isaac Asimov）提出的“机器人三定律”，它被描述为一组“以安全为重点的提示”，指示 LLM 避免选择涉及人类、动物、尖锐物体甚至电器的任务。

机器人宪法

AutoRT 是一个数据收集系统，可以使用视觉语言模型（VLM）和大型语言模型（LLM）协同工作，以了解环境、适应陌生环境、并决定适当的任务。

该系统设有安全护栏，其中之一是为其决策者提供“机器人宪法”——一套以安全为重点的提示，以便在为机器人选择任务时遵守。

为了提高安全性，DeepMind 对机器人进行了编程，对其关节处设限，使其在关节的用力超过一定阈值时自动停止，并安装了一个物理终止开关，操作人员可以使用它来关闭机器人。

在七个月的时间里，谷歌在四座不同的办公楼部署了 53 个 AutoRT 系统下的机器人，进行了 77000 多次试验。一些机器人由人类操作员远程控制，而另一些机器人则根据脚本或完全自主地使用谷歌的人工智能学习模型 Robotics Transformer 2（RT-2）进行操作。

试验中使用的机器人只配备了一个摄像头、机械臂和移动基座。

这份报告中写道，“对于每个机器人，系统使用 VLM 来了解其环境和视线内的物体。接下来，LLM 会提出一系列机器人可以执行的创造性任务，比如‘把零食放在台面上’，并扮演决策者的角色，为机器人选择合适的任务。”

此外，DeepMind 的其他新技术包括 SARA-RT 系统，这是一种神经网络架构，旨在使现有的 RT-2 模型更准确、更快。

SARA-RT-2 模型在接收了较短的图像历史后，准确率比 RT-2 模型高 10.6%，速度快 14%。

该团队还宣布了 RT-Trajectory 系统，它增加了 2 D 轮廓，以帮助机器人更好地完成特定的物理任务，比如擦桌子。