人工智能是个黑盒子

  用不太严格但简单了解的方式说，深度学习就是给现有数据（许多数据）打标签，然后体系自己总结数据和成果（也就是所打的标签）之间的联系，面临新数据时，就能依据自己总结的规则给出判别。对围棋来说，不管历史棋局仍是自我对弈，AlphaGo知道盘面，也知道结局（也是一种标签），体系就会总结规则，面临新盘面时判别赢棋的概率。但AI体系找到的是数据的哪些特征，与成果之间是怎样的联系，连创造AI的工程师也不知道。

所以，现在的人工智能体系是个黑盒子。咱们知道AI判别的正确率高，但不知道为什么，不知道是怎样判别的。

查找算法中的AI也是如此。百度查找工程师的说法很少见到，仅仅知道百度现在All In AI了。Google工程师明确标明过，他们对RankBrain究竟是怎样作业的也不太清楚。在这种情况下，在算法中许多运用人工智能就比较麻烦了，一旦呈现异常成果，不知道是什么原因，也无法debug。

写这篇帖子是由于前些天看到一篇纽约时报的文章“AI能学会解说它自己吗？”，十分有意思。一位心理学家Michal Kosinski把20万社交网络账号（是个约会网站）的相片及个人信息（包含许多内容，如性向）输入面部辨认人工智能体系，发现人工智能在只看到相片的情况下判别性向准确率很高。人工通过相片判别一个人是否同性恋的准确率是60%，比扔硬币高一点，但人工智能判别男性是否同性恋准确率高达91%，判别女性低一些，也有83%。

从相片里是看不到音色语调、体态、日常行为、人际联系之类协助判别的信息的。同性恋有纯容颜方面的特征吗？我个人的经历是，靠容颜判别不大靠谱。我曾经知道一对男同，他们都是很man的那种，终年健身，待人文质彬彬但绝没有女气，从表面是看不出来的。也可能是依托某种服饰特色？表情？背景？人工智能从相片中究竟看到了什么咱们人类很可能疏忽了的特征，或者人类底子看不到的特征，并到达91%的准确率呢？不得而知，横竖仅仅知道AI看得挺准。

不能解说自己的AI无法被信赖

  这种黑箱特征有时分倒无关紧要，像是判别一下性向。有时分就不能这么草率了，比方治病。尽管AI体系确诊某些癌症的正确率现已到达人类医师的水平，但最终定论，现在仍是要医师做，尤其是AI不能通知咱们它确诊的理由是什么的时分。除非今后AI能解说它为什么做出这个确诊，否则让人类100%信赖AI是有比较大心理障碍的。

前几天刚刚看到新闻，新加坡政府开始测验无人驾驶公共轿车。这显然是个正确的方向，我也信任不久的将来就会成为现实。尽管自动驾驶轿车事端率比人低，理性上咱们都知道其实更安全，但过马路时，停在周围的公共轿车没有司机，我会不会有点胆战心惊，怕它突然发动？开车时扭头一看，周围的Bus没有司机，我会不会吓一跳，下意识地离它远点？至少初期会的吧。和几个朋友聊起这个事，都是理性上信任，理性上心虚。

曾经的程序是依托断定性和因果联系运转的，比方查找算法中哪些页面特征是排名要素，各占多少权重，这是工程师挑出来的、断定的，尽管挑的时分可能就是拍脑袋决议的，但通过监测作用、调整参数，会到达一个比较满意的平衡。人工智能体系并不依托工程师给定的断定因果，而是更擅长于在概率和相关性中找到联系。对人来说，以概率和相关为特征的判别，常常就欠好解说理由了，比方或许是看心境，或许是看美观欠美观。

要求AI体系解说自己的判别，不仅是心理上的问题，或许今后会变成道德和法令上的问题，像治病。再比方触及用户利益的作业，像借款，人工智能依据一大堆数据做出回绝借款的决议，银行却不能解说为什么回绝，对用户该怎样告知？本年欧盟可能就要公布法规，要求机器做出的决议必须有解说。这对Google、Facebook等全球性的企业是个压力。在许多范畴，如军事、法令、金融，所有决议都是要有人来承当责任的，假如某个决议无法解说原因，恐怕也没有人敢承当这个责任。

另一个需求AI解说理由的原因是，前面说到，人工智能看的是概率和相关性，但看相关性做决议有时分会导致严重错误。纽约时报的文章举了个比方。通过数据练习的人工智能体系辅佐医院急诊室分诊，总体上看作用不错，但研讨人员仍是不敢真的拿来有用，由于数据中的相关性可能误导人工智能做出错误判别。比方数据标明，患有肺炎的气喘患者最终康复情况好于平均水平，这个相关性是实在存在的。假如AI体系由于这个数据就给有肺炎的气喘患者比较低的处理等级，那可能就要出事了。由于这些患者之所以最终情况杰出，是由于他们一来就被给予最高等级，得到最好最快的治疗了。所以，有时分从相关性看不到真实的原因。

可解说的人工智能

  X.A.I.（Explainable AI）可解说的人工智能，是刚刚鼓起的一个范畴，意图就是让AI对自己的判别、决议和进程做出解说。上一年美国国防高档研讨方案局（Darpa ）推出了David Gunning博士领导的XAI方案。Google也依然是这个范畴的领先者，Deep Dream如同就是这方面研讨的一个副产品：

   回到查找算法及SEO，查找引擎之所以还无法全面运用人工智能，其间一个原因或许就是人工智能的判别没有解说、无法了解，假如算法运用现在的人工智能，一旦呈现排名异常，工程师们将无法知道原因是什么，就更无法知道该怎样调整。

我想自动驾驶是最早AI有用化的范畴之一，和能否解说也有必定联系。自动驾驶轿车的大部分决议是不大需求解说的，或者说解说是一望而知的，间隔前车太近所以要减速或者刹车，这类判别应该不需求进一步解说理由了。

SEO们大约都有过同样的疑问，某个竞争对手的页面看着没什么特殊的，内容不怎样样，视觉规划一般，外链普通，页面优化我们做的都相同，为什么排名就那么好呢？现在的查找算法还能够探求原因，查找工程师们大约有内部工具能够看到排名的合理性。假如查找工程师看着一个挺烂的页面就是排在前面，却也不知道原因，还无从查起，他们的心里可能就焦虑了。

XAI的研讨才刚刚开始，这给了SEO们最终的缓冲期。从人工智能体系在其它范畴碾压人类的体现看，一旦大规模运用于查找，作弊和黑帽SEO恐怕将成为曩昔，现在的惯例SEO作业或许变得无足轻重，SEO们需求回到网站的实质：供给有用的信息或产品，别无他法。