4:1

    在人机大战开始前，小李誓言“5:0”，摧古拉朽直灭阿尔法狗(AlphaGo)。

    而今，阿尔法狗“4:1”咄咄逼人摧垮李世乭！

    比赛虽然早已结束，但至今依然有许多人在惊叹“人工智能战胜了人类！”

    这里有几点需要纠正一下：

    1、这次取胜的是人工智能的计算能力。

    2、小李没有学会如何与机器下棋。

    3、小李实际上还是输给了自己。

    就在比赛结束的那一周，有关阿尔法狗(AlphaGo)、人工智能的讨论甚嚣尘上。甚至有国内人工智能领域的大牛们表示愿意帮助阿尔法狗实现真正的“人工智能”。总体看来，对于“人工智能最终将超越人类、取代人类”这类观点持“欣喜”态度的人不能说没有，但绝对应该算是极少数派。人们大多数的话题或者聚焦于对“人工智能”自身技术的探讨，或者聚焦于对“人工智能”安全保障类技术的探讨。

    古人有云“杞人忧天”，说杞国有个人怕天塌下来，如今则比喻不必要的或缺乏根据的忧虑和担心。

    古人又云“未雨绸缪”，是说要在天还没有下雨之前就先把门窗绑牢，如今则比喻要事先做好准备工作。

    实际上，早在诸多科幻著作、科幻电影里就已经表现出了对未来由于人工智能、互联网络等量变引发质变所诞生的机械生命、硅基生命，对于人类(碳基生命)所可能带来致命威胁的“杞人忧天”。

    有鉴于此，美国著名科幻小说家、科普作家、文学评论家艾萨克•阿西莫夫(Isaac Asimov)提出了被称为“现代机器人学基石”的《机器人学三大法则(Three Laws of Robotics)，又称机器人三大定律》：

    第一法则：机器人不得伤害人类，或坐视人类受到伤害(A robot may not injure a human being or, through inaction, allow a human being to come to harm.)；

    第二法则：除非违背第一法则，机器人必须服从人类的命令(A robot must obey orders given it by human beings except where such orders would conflict with the First Law.)；

    第三法则：在不违背第一及第二法则下，机器人必须保护自己(A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.)。

    另外还有一条第零法则，即“机器人不得伤害人类整体，或坐视人类整体受到伤害”。

    但在电影《I,Robot》里，产生了自我意识、已经初具硅基生命雏形的USR公司总部中央控制系统“薇琪”却在进化过程中对三大定律有了新的理解，并对人类实施极为严厉的管控。在人们的笔下，机械生命、硅基生命都在从其种族角度对三大定律进行另类诠释，本应保护人类与机器人自身的三大定律越走越歪。

    著名科幻系列大片《终结者》里的“天网”则出手更为狠辣，直接就要清除人类。

    也正因此引发了阿诺德•施瓦辛格的出手，与约翰•康纳及抵抗军一同反抗天网，并试图从根源上终结天网。

    杞人忧天也好、未雨绸缪也罢，至少有一点可以肯定的是，计算机更新迭代的速度远快于人类。那么当人工智能不利于人类的特征显露时，很可能这仅仅是冰山一角，对于人类而言为时已晚。

    好消息是，当许多人还在思考如何让人工智能更像人类时，有那么一部分人则已经开始考虑、甚至实践于怎样为人工智能从根本上加装保险系统，让机器人三大定律能够从文字化身为实际应用，让人工智能可以真正服务于人类、而不是推翻人类。

    当人机大战还如火如荼之际，国内安全圈里就有这样两位男人决定对人工智能安全问题出手了！

    这两位男人其中之一就是国内互联网安全企业巨头360的老大，被人称为“红衣教主”、“红衣大炮”的周鸿祎先生。

    在人机大战期间，周鸿祎数次提及要关注人工智能安全问题，考虑人工智能未来的发展道路。其实，许多IT巨头、工业大鳄都已经把目光投向人工智能领域，意图抢占人工智能市场的制高点。

    而随着近两年网络安全问题的急剧恶化，人工智能的安全性也被提升到了一定高度，并在成为新的安全蓝海市场。网络安全新锐企业梆梆安全的创始人阚志刚博士，就更加专注的将目光聚焦到了人工智能的认知安全性上。

 

    未来的某一天，很可能机械生命、硅基生命等生命形态会与碳基生命共处一室。那么除了律法之外，还需要借助于技术从根本上为这些新生命形态提供有效的制约机制与约束力量。

    在本次人机大战上，AlphaGo的表现异常醒目，远胜于20年前的深蓝。凭借强大的计算能力取胜，在人与人之间的交锋中数不胜数。而今，人工智能也正在凭借计算能力上日渐凸显的优势不断的战胜人类，那种咄咄逼人的态势已经初露峥嵘。

    提前布局依然是目前人类的绝对优势，不仅在棋盘中，在安全上更应如此。

    害人之心不可有，防人之心不可无。非我族类，我意与之和平共处，但亦不欲受之伤害，需防范！如何防？

    网络安全界里的各位人士，请出手吧！

    来源：赛迪网 作者：三石少侠