对不起，Facebook的AI系统没有“失控”……

本篇文章2172字，读完约5分钟

facebook的人工智能系统失控的消息让你害怕了吗？幸运的是，这是一个错误。但是你相信马斯克吗，谁想拯救地球？

文字|杨洁编辑器|黑色智慧

是时候让机器碾碎人类了吗？

马斯克和扎克伯格关于人工智能威胁理论的争论还很遥远。最近，有报道称，facebook关闭了一个失控的人工智能系统，据称是因为聊天机器人开始用自己的语言说话，这种语言使用英语单词，但人类无法理解。

据报道，facebook月份开始测试的人工智能系统出现了问题，两个智能对话机器人在对话过程中失去了控制。当然，他们没有关闭世界各地的电脑或采取任何其他类似的行动。相反，他们停止在交谈中使用英语，开始使用只有他们自己才能理解的新创造的语言。Facebook不得不拔掉它正在开发的人工智能系统。

与马斯克认为人工智能是人类文明面临的最大风险，应该受到积极监督的言论相比，这很容易引起更大的关注。机器能脱离研究人员设定的脚本，改善交流结果，欺骗人类吗？

但事实上，这种担心还为时过早。

很快，facebook解释说，这两个机器人是实验性的，并没有发明一种新的语言，因为它们仍然在用英语单词如I、balls和the交流，但是它们没有设置英语语法激励，所以它们创造了一种新的表达方式。因此，这位官员还说，他们关闭人工智能系统的原因不是因为他们失去控制，而是因为这样做毫无意义，因为他们更喜欢人工智能与人交流，而不是彼此交流。

因此，一般原因，我们可以解释，是这两个机器，他们只有糟糕的英语。

就像两个婴儿和小孩一样，他们用成年人听不懂的语言交流，但他们的基础是人类语言。

但是别担心，这两个孩子没有人类那么复杂的思维和创造力。

一个

人工智能威胁理论不再是一个新话题。

几年前，当谷歌旗下人工智能实验室deepmind的联合创始人哈比比(Hasabis)参观马斯克的spacex火箭工厂时，马斯克说，spacex的最终目标是世界上最重要的项目:星际殖民，这样，如果人工智能在未来攻击人类，我们仍然有一个藏身之处。

哈萨比斯笑着回应说，人工智能会把人类追到火星。

因此，马斯克的担忧并没有消除。

著名物理学家霍金也有同样的担忧。他曾经告诉bbc:我认为人工智能的发展可能预示着人类的灭亡。

二

人工智能有这么激烈吗？

李开复在他给石英的手稿中提到，人工智能擅长优化有针对性的工作(但不能创造，没有感情)；机械控制的发展速度比人工智能软件慢得多。尽管传感器发展很快，但它们价格昂贵，体积庞大，消耗太多能量。

人工智能的时代即将到来。机器正在帮助我们提高工作效率，节约成本并带来好处，甚至可以在高度重复的工作中取代部分人类工作。然而，它们远离人性。几年前，人工智能无法区分猫和狗。现在，它们可能只是摄像机、汽车自动驾驶系统、根据设置脚本完成工作的物流机器人，或者教学辅助工具。

具有自我意识和情感的机器还没有出现。

那么，这一天会到来吗？

白潞曾在博鳌论坛上说过，人工智能可以具有认知功能，包括逻辑思维分析和决策。人类认知的另一个方面叫做高级认知功能，它包括语言，包括自我意识，包括想象力、创造力，最后是人类特有的一种有目的的行为。在我看来，在这方面，人类不能被机器取代。

在深圳举行的it领导人峰会上，李彦宏曾表示，机器学习的算法仍处于初级阶段，未来的空仍有许多改进，但与此同时，他表示，强大的人工智能时代可能永远不会到来，用计算机模拟人脑达到人脑的水平是不可能的。人工智能何时能挑战人们的认知能力？我认为还有很长很长的时间要走。我说话保守，而且我说了很长时间，但我实际上认为这一天永远不会到来。

三

但是对于人工智能来说，人类对它的不信任是存在的。因为，本质上，深度学习目前是一个非常黑的盒子。也就是说，你看不到它是如何工作的。也许你可以对机器的输出结果给出一个合理的解释，但是也有可能你没有理由去推断其中的一些。

因此，当我们用机器来做决定时，我们不能简单地相信或拒绝相信它的判断。同样，我们必须确保人工智能系统能够学会做出符合我们道德标准和社会规范的判断。

此前，美国五大科技巨头谷歌、facebook、亚马逊、ibm和微软很少联手组建人工智能合作组织。此外，欧盟也开始讨论机器人和人工智能的道德问题。

当然，人工智能之间对抗的实验已经开始了。

谷歌总部的人工智能团队谷歌大脑(非深度思维)去年就这个问题进行了一项实验。研究人员使用了三个简单的神经网络，其中两个没有学到任何加密知识，只是依靠它们之间的共识(共享密钥)来设计加密方法；另一个是解密方。

原来，他们构建的人工智能系统创造了一种加密算法，这种算法不仅不可猜测，而且可以自我升级，使算法不被破解。

Deepmind找到了两个人工智能来玩对抗游戏，并且发现他们也可以学会赢和互相合作。

在今年5月乌镇Go Summit的人机对抗赛中，面对劣势，与库利搭档的阿尔法戈决定认输，但库利拒绝了阿尔法戈的要求，坚持战斗。在那之后，阿尔法戈的象棋比赛变得越来越消极。最终，库利不得不在不可逆转的形势下承认失败。

然而，这些实验并没有脱离人类的控制。作为环境的建设者，人类需要设计和建立神经网络，并定义失败和成功。

但是关于人工智能的威胁理论，当马斯克很忙的时候，我们还是可以放松一下。用马云的话来说，阿尔法戈还不会下坏棋，那又怎么样？