Zac | 人工智能什么时候才可全面影响搜索算法？

1fy07h · 发表于 2024-7-10 04:48:20

过去一两年，人工智能是最火的并且快速进入实用的技术。以前写过人工智能将彻底改变seo，亦介绍过人工智能在搜索算法中的实质应用，但必须说明的是，到日前为止，人工智能在搜索算法中的应用并不广泛。影响人工智能在搜索算法中大范围运用的最重点原因可能是，搜索引擎工程师不晓得人工智能系统到底是怎么做出判断的，然后又引起另一个要紧问题：很难debug。

人工智能是个黑盒子

用不太严格但容易理解的方式说，深度学习便是给现有数据（海量数据）打标签，而后系统自己总结数据和结果（亦便是所打的标签）之间的关系，面对新数据时，就能依据自己总结的规律给出判断。对围棋来讲，没论历史棋局还是自我对弈，AlphaGo晓得盘面，亦知道结果（亦是一种标签），系统就会总结规律，面对新盘面时判断赢棋的概率。但AI系统找到的是数据的那些特征，与结果之间是怎么样的关系，连创造AI的工程师亦不晓得。

因此，此刻的人工智能系统是个黑盒子。咱们晓得AI判断的正确率高，但不晓得为何，不晓得是怎么判断的。

搜索算法中的AI亦是如此。百度搜索工程师的说法很少见到，只是晓得百度此刻All In AI了。Google工程师知道暗示过，她们对RankBrain到底是怎么工作的亦不太清楚。在这种状况下，在算法中海量运用人工智能就比较麻烦了，一旦显现反常结果，不晓得是什么原由，亦没法debug。

写这篇帖子是由于前些天看到一篇纽约时报的文案“AI能学会解释它自己吗？”，非常有意思。一位心理学家Michal Kosinski把20万社交网络账号（是个约会网站）的照片及个人信息（包含非常多内容，如性向）输入面部识别人工智能系统，发掘人工智能在只看到照片的状况下判断性向准确率很高。人工经过照片判断一个人是不是同性恋的准确率是60%，比扔硬币高一点，但人工智能判断男性是不是同性恋准确率高达91%，判断女性低有些，亦有83%。

从照片里是看不到音色语调、体态、平常行径、人际关系之类帮忙判断的信息的。同性恋有纯相貌方面的特征吗？我个人的经验是，靠相貌判断不大可靠。我以前认识一对男同，她们都是很man的那种，常年健身，待人彬彬有礼但绝无女气，从外表是看不出来的。亦可能是依靠某种服饰特点？表情？背景？人工智能从照片中到底看到了什么咱们人类很可能忽略了的特征，或人类基本看不到的特征，并达到91%的准确率呢？不得而知，反正只是晓得AI看得挺准。

不可解释自己的AI没法被信任

这种黑箱特征有时候倒没关紧要，像是判断一下性向。有时候就不可这么草率了，例如看病。虽然AI系统诊断某些癌症的正确率已然达到人类大夫的水平，但最后结论，日前还是要大夫做，尤其是AI不可告诉咱们它诊断的理由是什么的时候。除非以后AI能解释它为何做出这个诊断，否则让人类100%信任AI是有比很强心理阻碍的。

前几天刚才看到资讯，新加坡政府起始测试没人驾驶公共汽车。这显然是个正确的方向，我亦相信不久的将来就会作为现实。虽然自动驾驶汽车事故率比人低，理性上咱们都晓得其实更安全，但过马路时，停在旁边的公共汽车无司机，我会不会有点提心吊胆，怕它忽然起步？开车时扭头一看，旁边的Bus无司机，我会不会吓一跳，下认识地离它远点？最少初期会的吧。和几个伴侣聊起这个事，都是理性上相信，感性上心虚。

以前的程序是依靠确定性和因果关系运行的，例如搜索算法中那些页面特征是排名原因，各占多少权重，这是工程师挑出来的、确定的，虽然挑的时候可能便是拍脑袋决定的，但经过监测效果、调节参数，会达到一个比较满意的平衡。人工智能系统并不依靠工程师给定的确定因果，而是更善于于在概率和关联性中找到联系。对人来讲，以概率和关联为特征的判断，经常就欠好解释理由了，例如亦许是看心情，亦许是看好看欠好看。

需求AI系统解释自己的判断，不仅是心理上的问题，亦许以后会变成伦理和法律上的问题，像看病。再例如触及用户利益的事情，像贷款，人工智能按照一大堆数据做出拒绝贷款的决定，银行却不可解释为何拒绝，对用户该怎么交代？今年欧盟可能就要颁布法规，需求设备做出的决定必要有解释。这对Google、Facebook等全世界性的公司是个压力。在非常多行业，如军事、法律、金融，所有决定都是要有人来承担责任的，倘若某个决定没法解释原由，恐怕亦无人敢承担这个责任。

另一个必须AI解释理由的原由是，前面说到，人工智能看的是概率和关联性，但看关联性做决定有时候会引起严重错误。纽约时报的文案举了个例子。经过数据训练的人工智能系统辅助医院急诊室分诊，总体上看效果不错，但科研人员还是不敢真的拿来实用，由于数据中的关联性可能误导人工智能做出错误判断。例如数据显示，身患肺炎的气喘病人最后痊愈状况好于平均水平，这个关联性是真实存在的。

倘若AI系统由于这个数据就给有肺炎的气喘病人比较低的处理等级，那可能就要出事了。由于这些病人之因此最后状况良好，是由于她们一来就被给予最高等级，得到最好最快的治疗了。因此，有时候从关联性看不到真正的原由。

可解释的人工智能

X.A.I.（Explainable AI）可解释的人工智能，是刚才兴起的一个行业，目的便是让AI对自己的判断、决定和过程做出解释。去年美国国防高级科研计划局（Darpa ）推出了David Gunning博士领导的XAI计划。Google亦依然是这个行业的领先者，Deep Dream好似便是这方面科研的一个副制品：

人工智能与SEO

回到搜索算法及SEO，搜索引擎之因此还没法全面应用人工智能，其中一个原因亦许便是人工智能的判断无解释、没法理解，倘若算法运用日前的人工智能，一旦显现排名反常，工程师们将没法晓得原由是什么，就更没法晓得该怎么调节。

我想自动驾驶是最先AI实用化的行业之一，和能否解释亦有必定关系。自动驾驶汽车的大部分决定是不大必须解释的，或说解释是一目了然的，距离前车太近因此要减速或刹车，这类判断应该不必须进一步解释理由了。

SEO们大概都有过一样的疑惑，某个竞争对手的页面看着没什么特殊的，内容不怎么样，视觉设计通常，外链普通，页面优化大众做的都同样，为何排名就那样好呢？此刻的搜索算法还能够探究原由，搜索工程师们大概有内部工具能够看到排名的恰当性。倘若搜索工程师看着一个挺烂的页面便是排在前面，却亦不晓得原由，还没从查起，她们的内心可能就焦虑了。