为什么研究人员应该确保机器人不会成为武器_专栏

人工智能的发展正在迅速改变机器人技术。而且好处是广泛的：我们看到更安全的车辆能够在紧急情况下自动刹车，机械臂改造了曾经离岸的工厂生产线，新的机器人可以做任何事情，从药店给身患疾病的人送药。

但我们对智能自主机器日益增长的需求，带来了大量的道德挑战。

当我和我的同事们11月初在世界上最大的以自主机器人技术为重点的研究会议之一——IEEE智能机器人与系统国际会议上相聚时，这些想法和更多的想法都在打转。在那里，学者、企业研究人员和政府科学家介绍了算法的发展，这些算法允许机器人做出自己的决定。

与所有的技术一样，我们的研究在未来的应用范围是难以想象的。考虑到这个领域变化的速度之快，预测起来就更有挑战性了。以计算机识别图像中的物体的能力为例:2010年，这一技术只有一半的时间是成功的，而且多年来一直停滞不前。然而，今天，发表论文中显示的最佳算法的准确率已经达到86%。单凭这一进步，自主机器人就可以通过镜头理解它们所看到的东西。它也显示了过去十年由于人工智能的发展而取得的快速进步。

从技术角度来看，这种改进是一个真正的里程碑。在过去，手动查看大量的视频片段需要花费大量的时间，而现在，计算机程序可以快速准确地解析这些数据。

但它也引发了一个道德困境。在把人从这个过程中移除的过程中，支撑隐私和安全决策的假设已经从根本上改变了。例如，在公共街道上使用摄像头可能在15或20年前就引起了人们对隐私问题的关注，但添加了精确的面部识别技术后，这些隐私问题得到了极大的改善。

易于修改系统

当开发能够做出自己决定的机器（通常称为自主系统）时，出现的道德问题可能比对象识别中的问题更为令人关注。增强了AI的自主性发展得如此之快，以至于曾经拥有高级工程系统的功能现在对具有家用工具箱和计算机经验的任何人都可用。

没有计算机科学背景的人可以学习一些最先进的人工智能工具，而机器人非常愿意让你在它们身上运行新获得的机器学习技术。网上论坛上挤满了渴望帮助任何人学习如何做到这一点的人。

使用较早的工具，已经很容易对您的经过最少修改的无人机进行编程，以识别并跟随红色袋子。较新的物体检测技术使人们能够追踪类似于9,000多种不同物体类型的物体。结合更新，机动性更高的无人机，不难想象它们可以多么轻松地装备武器。如何阻止某人将炸药或其他武器绑在配备有该技术的无人机上？

使用多种技术，无人驾驶飞机已经是一种威胁。他们被发现向美军投掷炸弹，关闭机场，并被用来暗杀委内瑞拉领导人尼古拉斯·马杜罗。目前正在开发的自主系统可以使发动这类攻击变得更容易，更具破坏性。

报告显示，伊斯兰国正在使用现成的无人机，其中一些被用于轰炸。

监管还是审查委员会?

大约一年前，一群人工智能和自主机器人领域的研究人员承诺，将不再开发致命的自主武器。他们将致命自主武器定义为能够“在无人干预的情况下选择和攻击目标”的平台。“作为一名机器人研究人员，我对开发自主瞄准技术不感兴趣，我觉得这个承诺忽略了危险的关键。它掩盖了需要解决的重要伦理问题，尤其是那些涉及无人机应用广泛的交叉领域的问题，这些领域可能是良性的，也可能是暴力的。

首先，撰写论文、开发软件和设备的研究人员、公司和开发人员通常不是为了制造武器。然而，它们可能无意中使其他具有最低专业知识的国家能够制造这种武器。

我们能做些什么来应对这种风险?

管制是一种选择，并且已经被用来禁止在机场附近或国家公园附近的空中无人机。这些是有帮助的，但是它们并不能阻止制造武器无人机。传统武器法规也不是足够的模板。他们通常加强对原材料或制造过程的控制。对于自治系统而言，这几乎是不可能的，因为原始材料是广泛共享的计算机代码，并且制造过程可以使用现成的组件在家中进行。

另一种选择是跟随生物学家的脚步。1975年，他们在加利福尼亚州的Asilomar 举行了关于重组DNA潜在危害的会议。在那里，专家们同意了指导未来工作的自愿准则。对于自治系统，目前看来这种结果不太可能。可以用于武器开发的许多研究项目也取得了和平和令人难以置信的有益成果。

第三种选择是在组织级别上建立自治机构，例如目前负责监督公司，大学和政府实验室中有关人体研究的机构审查委员会。这些委员会考虑了参与研究的人们的利益，并制定了减轻潜在危害的方法。但是他们只能规范其机构内进行的研究，这限制了它们的范围。

尽管如此，仍有大量研究人员落入这些委员会的职权范围之内–在自主机器人研究社区中，几乎每个参加技术会议的演讲者都是该机构的成员。研究审查委员会将是迈向自我监管的第一步，并可能标记出可能被武器化的项目。