如果 AI 有自主攻击的能力，这将是一件非常可怕的事情。
自波士顿动力推出第一款商用机器狗 Spot 以来，机器狗已经开始解锁越来越多的人类场景，比如侦查、远程视频、绘图、拆弹以及检测化学、生物、放射性物质和核物质等。一直以来，波士顿动力都禁止将自己机器狗武器化，但的确不是每一家制造商都会这么做。上周，在华盛顿召开的美国陆军协会大会（AUSA）上，参展商 Ghost Robotics 带来了一位「杀手机器狗」，引发了一场不小的争议。这是一款灵活的四足机器狗。但和普通机器狗不同的是，它的背上背了一把步枪。Ghost Robotics 首席执行官 Jiren Parikh 将这款机器人称为「一个会走路的三脚架」。
这把枪由枪械制造商 SWORD 打造，全称是 SWORD 防御系统特殊用途无人步枪（Defense Systems Special Purpose Unmanned Rifle，SPUR)。据 SWORD International 官网介绍，SPUR 专门设计用于「从无人平台提供精确射击」，配备 10 发弹匣，用专为远距离射击的 6.5 毫米口径克里德莫尔弹（6.5mm Creedmoor），同时也兼容普及度更高的 7.62x51mm NATO 子弹，能够精准锁定 1.2km 范围内的目标。此外，SPUR 还装有一个具有 30 倍光学变焦的 Teledyne FLIR Boson 热像仪，能够在白天或夜间挑选目标。制造战争机器人是人们一直以来最不愿看到的景象，因此通常不会带来正面评价。大家担心的是：这些机器人在未来将如何部署，以及如何受到监督？如果造成问题，责任该归于哪一方？机器人公司？生产步枪的公司？最终用户军方？还是大家一起承担近日，Jiren Parikh 接受了 IEEE Spectrum、TechCrunch 等媒体的采访，并向外界进一步介绍了「武装自主机器人」。Q：您能描述一下这款机器狗的自主程度和其步枪系统的自主程度吗？A：首先，这两者必须要分开谈。SWORD 的防御系统专用步枪没有自主权，也不存在人工智能。它是从远处触发的，必须由人控制完成，整个系统回路中一定有一个操作员。SWORD 的客户包括世界各地的特种作战团队，其中一些前特种作战团队成员提出的需求是想让原本必须扣动扳机的人与武器保持一定距离，以最大程度地减少他们所处的危险。我们认为这是一个好主意。我们的机器狗本身也不是自主的，而是由系统回路中的操作员远程控制的。它确实有躲避环境中物体的相关感知，因为我们需要它能够在现实环境中行走并在非结构化地形上保持稳定，并且操作员能够设置 GPS 航点，以便它走到特定位置。并且这款机器狗也没有与武器攻击相关的人工智能，我们无意这样做。SWORD 防御系统和其他支持军事安全、公共安全或企业安全的产品一样，无意制造攻击性。
A：我们有20 多个来自美国和盟国各个机构的政府客户，他们都遵守非常严格的规定。他们也并不支持自主化的武器。我们的绝大多数客户正在使用机器狗或开发一些特定领域的应用程序，包括化学、生物、放射性、核与其他爆炸物检测、侦察、目标获取、地下等密闭空间探察、测绘、EOD 安全、无线网络、环境安全等。在这些应用中，他们需要比敏捷性和灵活性较差的履带式和轮式机器人更好的选择。也有一些机构将机器狗用于我们不了解其细节的工作。我们向他们出售我们的机器狗，这些客户可以将机器狗与任何软件、无线电和步枪等武器一起使用。使用这些系统的人，他们可能是特殊小组或与大规模杀伤性武器（WMD）有关的机构以及其他从事机密行动的特殊机构。我们只能假设我们有很多客户在做非常困难、危险的工作。但是这些工作的保密性极强，这也给这些工作者的家人带来了很大的安全威胁。所以我们要做的就是允许在军事和其他政府机构应用中使用我们的机器狗，以防止这些工作人员受到伤害。这就是我们所提倡的。如果他们需要安装在机器狗上完成任务的武器，那么我们很高兴他们可以这样做。这与任何其他向国防等政府机构销售的两用技术产品并没有什么不同。Q：Ghost Robotics 在 AUSA 展出的产品，与其他已经存在十多年的武装机器人平台相比，在功能上有何不同？A：几十年前，我们有导弹，它们几乎是带有武器的机器人。人们不认为它是一个机器人，但其实它是的。最近，出现了带有武器的无人机和地面机器人，但是它们没有腿。现在再加上科幻电影和社交媒体的影响，我们无法控制（人们的看法）。现在面临的挑战是有腿机器人很迷人，而科幻让它们变得可怕。所以我认为，我们将不得不在未来五到十年内逐步将这些有腿系统社会化，希望人们习惯它们并理解益处。这可能令人恐惧，我们也会考虑到这些方面。Q：是否担心展示携带武器的四足机器人会进一步放大这种感知问题，并让人们不太可能接受它们？A：在短期内，比如数周或数月，会的；如果你说的是一两年，不会。我们会习惯这些机器人，就像习惯了武装无人机一样，它们只需要适应这个社会。如果我们的机器人是有轨道的而不是有腿，没有人会注意，而现在人们只是需要习惯有腿的机器人。
Q：在 Ghost Robotics 看来，武装机器人应该做什么？不应该做什么？A：我认为这些机器人在军队中有一个关键的位置。我们的军队在保护我们的安全，他们每天冒着生命危险保护美国及其盟国。如果他们需要用机器人来履行这些职责，保证我们的安全，我不想看到他们缺乏这些东西，包括武器系统。如果有人因此免于死亡，我认为这是一件值得骄傲的事情。在加入 Ghost Robotics 之前，我没有意识到我们的军人为了保护我们而经历的压力、混乱和痛苦。我们采访过一些特种部队人员，在谈及失去的战友时，你可以感受到他们的痛苦。这些人为保护我们所投入的精力是惊人的，但我们一直认为这是理所当然的。A：我认为不会发生这种情况。我们刚开始和执法部门沟通，但还没有咨询任何有关武器的事情。我们讨论的事情包括危险品处理、CBRNE（化学、生物、放射、核或爆炸）、对封闭空间和犯罪现场的侦查，或者派机器人去与被封锁或被劫持的人交谈等。我认为你不会看到警察使用武器化机器人。在其他国家，这有可能发生，但我相信在这里不会。我们国家的军队有一套严格的规章制度，在如何使用新技术方面，我们有这种政治和民间支持。A：我们全面拥抱监管。这是当下每个人都应该做的事情。我认为，具体的监管内容，你能做什么、不能做什么，如何部署 AI 应该由政治家和军队来决定。但问题是，世界上的其他国家是否会遵守这些监管条例？基于这一考量，我们必须现实一点，必须为保卫自己做好准备，以对抗那些行为异常的国家或恐怖组织。像鸵鸟一样把头埋进沙子不是解决问题的办法。Q：基于你在过去几天的经历，你们会改变自己的一些做法吗？A：我们对于自己在做的事情非常专注，我们的团队也理解我们的使命。我们不会被动做出反应，而是将信守对美国及其盟国政府客户的承诺。我们将帮助他们做任何他们需要做的事情，提供他们所需的任何能力，帮助他们做好自己的工作，而且要保证安全。我们非常幸运能够生活在这样一个国家，在这里，军事力量是不得已才会使用的手段，新技术和武器的使用需要数年时间，并需要武装部队在文职人员监督下进行大量审议。A：我们不制造武器。我们是否要推销和宣传这些武器系统？可能不会。这个问题很难回答。因为我们要卖给军方，我们不知道他们会怎么做。我们不会命令政府客户如何使用机器人。但我们对产品的销售地点划定了范围，我们只卖给美国和盟国政府。
Q：公司是否保留权利，确保机器人不被用于公司不支持的应用？A：从某种意义上说，是的。我们有完全的控制权。每个客户都必须签署许可协议。我们不会把机器人卖给任何我们不想卖的买家。我们必须认识到，军方客户不会公开他们所做的一切。如果他们为了国家安全的特殊目的需要使用机器人，或者为了让战士免受伤害，我们都支持。参考链接：https://spectrum.ieee.org/ghost-robotics-armed-military-robotshttps://techcrunch.com/2021/10/21/guns-on-robots/2021 NeurIPS MeetUp China
受疫情影响，NeurIPS 2021依然选择了线上的形式举办。虽然这可以为大家节省一笔注册、机票、住宿开支，但不能线下参与这场一年一度的学术会议、与学术大咖近距离交流讨论还是有些遗憾。
今年，我们将在NeurIPS官方支持下，再次于 12 月份在北京举办线下NeurIPS MeetUp China，促进国内人工智能学术交流。
2021 NeurIPS MeetUp China将设置 Keynote、圆桌论坛、论文分享和 Poster 等环节，邀请顶级专家、论文作者与现场参会观众共同交流。
欢迎 AI 社区从业者们积极报名参与，同时我们也欢迎 NeurIPS 2021 论文作者们作为嘉宾参与论文分享与 Poster 展示。感兴趣的小伙伴点击「阅读原文」即可报名。
© THE END
转载请联系本公众号获得授权
投稿或寻求报道：content@jiqizhixin.com