人工智能应该如何监管？华盛顿大学教授 Oren Etzioni 给出了他的“人工智能三定

本篇文章1961字，读完约5分钟

雷锋。(公开号码:雷锋。《人工智能技术评论》:8月中旬，思科等26个国家的人工智能技术领导人在公交车上撰文，要求联合国禁止研发和使用“杀人机器人”，这引起了人们对人工智能的使用和监管的新担忧。现在人工智能已经开始取代一些人的工作，将来人工智能会被用来杀人吗？虽然世界上所有主要的人工智能研究机构都在努力开放自己的成果，而“促进发展”避免了技术垄断，以减少人们的担忧，只是“开放”并不能解决所有的问题。

最近，艾伦人工智能研究所所长、华盛顿大学教授奥伦·埃齐奥尼也在《纽约时报》上发表了一篇文章，讲述了他对人工智能监管的看法。1991年，在tom m. mitchell的指导下，柳文欢·埃齐奥尼获得了cmu博士学位，随后来到华盛顿大学计算机工程学院担任教授；2005年，他率先建立了华盛顿大学图灵中心，并担任其主任。该中心的研究领域包括数据挖掘、自然语言处理和网络搜索。埃齐奥尼在他的思想中提出了“人工智能的三大定律”，雷和《科技评论》编辑了这篇文章如下。

被许多人视为“钢铁侠的真实版”的美国顶尖科技公司的创始人埃隆·马斯克(Elon Musk)最近敦促相关国家领导人采取措施，提前监管人工智能技术。马斯克坚持认为人工智能是对人类生存的“潜在威胁”，就像科幻作品中的人工智能一样，这是一个令人担忧的观点。然而，即使像我这样的研究人员也意识到，人工智能将对武器设计、工作机会和隐私产生巨大影响。人们自然会对是否应该发展人工智能技术产生怀疑。

我相信答案是肯定的。然而，为了谨慎起见，我们至少应该一步一步地放慢人工智能的发展进程吧？问题是，如果我们这样做，像中国这样的国家将超过我们。人工智能的马失去了控制，我们最好的计划是设法引导它。人工智能不应被武器化，任何人工智能都必须有一个“禁区”来坚守。此外，我们应该规范人工智能系统对实际应用场景的影响(例如，自主车辆的安全性)，而不是试图定义和控制尚未成形且快速发展的人工智能领域中的一些概念。

我提出了关于人工智能系统的三条规则，其灵感来自科幻作家伊萨夫·阿西莫夫在1942年提出的“机器人三定律”。我在此基础上做了进一步的发展。阿西莫夫的三条定律如下:第一，当机器人看到人类受到伤害时，不能伤害人类或袖手旁观；第二，在不违反第一定律的前提下，机器人必须绝对服从人类发出的任何命令；第三，机器人必须尽力保护自己，不违反第一定律和第二定律。

这三个定律看起来优雅而简洁，但它们很模糊:说到人工智能，到底什么是危害？基于我提出的三条规则，我找到了一个更具体的方法来避免人工智能带来的危害..

首先，人工智能系统必须遵守其操作员的所有规则。这套规则将涵盖私人、公司和政府机构。我们不希望人工智能参与网络欺凌、股票操纵或恐怖威胁；我们不希望f.b.i使用a.i .系统的捕鱼法。我们不想开车闯红灯，或者更糟的是，制造违反国际条约的人工智能武器。

我们的一般法律法规应该修改，人们不能原谅人工智能系统做了一些我们不能理解或期待的事情。简而言之，“无论我做什么，它都是人工智能”。这不应该成为违法的借口。

我的第二条规则是人工智能系统必须清楚地表明它不是人类。正如我们在机器人案例中看到的那样——计算机程序可以与真实的人进行越来越复杂的对话——人类社会需要确保人工智能系统被清晰地标记出来。2016年，一个名叫吉尔沃森的机器人在佐治亚理工学院的一个在线课程中担任助教，愚弄学生，让人们认为它是人类。牛津大学的研究人员称，一个更严重的例子是支持特朗普的政治机器人，在2016年大选前的几天，这种机器人在社交媒体上被广泛使用。

我的规则将确保人们知道机器人什么时候冒充某人。例如，我们知道@ deep drumpf——一个在推特上幽默模仿唐纳德·特朗普的机器人。人工智能系统不仅发送虚假的推文；他们还发布假新闻视频。华盛顿大学的研究人员最近发布了一段前总统巴拉克·奥巴马的假视频，令人信服地似乎说了一些嫁接到他的视频中的话。真实情况与他所说的完全不同。

我的第三条规则是，未经信息源的明确许可，人工智能系统不能保存或披露机密信息。由于自动参考、记录和分析信息的特殊能力，人工智能系统处于获取机密信息的主要位置。例如，被越来越多的家庭所接受的“智能扬声器”亚马逊回声，可以记录家庭中的所有对话，包括那些私人的或你的孩子可能无意中透露给人工智能的对话..甚至看似无害的室内清洁机器人也会给你的家标上地图。这是确保控制所需的信息。

我认为这些规则听起来不够完整。我在这里介绍他们，只是为了抛砖引玉。不管你是否同意马斯克关于人工智能发展速度及其对人类最终影响的观点，人工智能显然已经到来。公众需要做好准备。

《纽约时报》，雷锋。技术评论汇编

雷锋文章版权所有。严禁擅自转载。详情请参考转载说明。