谷歌灵异算法事件，荒诞却又可悲-天涯论坛

f9yx0du 发表于 2024-9-3 23:05:55

谷歌灵异算法事件，荒诞却又可悲

<img src="https://p3-sign.toutiaoimg.com/tos-cn-i-tjoges91tu/T9mLrx28yn1ec5~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1725954496&x-signature=f%2FDMz1HAJcyKLqrZQeyq0rH3OaE%3D" style="width: 50%; margin-bottom: 20px;">
作者| 宇多田
出品| 虎嗅科技组
封面来自视觉中国
倘若把这看做是一场精彩的营销事件，那样两周来，谷歌人工智能大模型LaMDA诱发的滔天舆论巨浪，已然完胜三年来苦心向公众普及大模型的 OpenAI 以及微软、Meta等科技巨头。
6月上旬，一个关于“LaMDA有了人类心情与主观认识”的结论，被谷歌一名叫Blake Lemonie的算法工程师，以个人名义，用一份长达21页的对话报告投放在了Twitter上，诱发了炸裂式影响。无媒介会对开了智的算法无动于衷。于是，咱们便看到了成百上千条这般的类似报告：
“AI真的觉醒了，谷歌工程师因重大发掘被迫休假。”
更有趣的是，这位曾在谷歌技术伦理科研所呆过7年的工程师，剧烈需求官方赋予LaMDA应有的权利。而谷歌，则快速组织专家对LaMDA进行多轮测试，最后对这一“认识崛起论”予以驳斥。
但历来无人在乎官方说辞。
公众仍然被LaMDA精彩且流畅的对话细节所打动——它不仅深谙《悲惨世界》的文字精髓，还对大洋彼岸极为艰涩难懂的中国佛教典籍《景德传灯录》（下图）小有拙见。
“人工智能的确在向着认识的方向前进，我感觉自己在和有些聪明的东西说话。” 一样在本月，谷歌副总裁 Blaise Agüera y Arcas 曾在《经济学人》上亲自撰稿做营销式诠释，再添一把火。
虽然他的这些说辞，被非常多专家形容为“好听但却是些屁话”。<img src="https://p3-sign.toutiaoimg.com/tos-cn-i-tjoges91tu/T9mLryKEG8XwRA~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1725954496&x-signature=mviUeZfd59w0mbLJAZemd0Ev7pk%3D" style="width: 50%; margin-bottom: 20px;">
这一段对话截取自工程师与LaMDA的对话细节，前者让算法解释一个佛教故事含义，算法的解答跟答案没太大出入。
如同咱们此前关于GPT3的系列报告，LaMDA，亦是近年来大火的“自然语言处理大模型”家族一员——经过处理巨量文本，创立起的一套参数高达1370亿的神经网络预测算法模型。
2021年5月谷歌研发者大会上，LaMDA被CEO皮蔡兴高采烈地捧到众人眼前后，据述已然造福于谷歌内部，加强了网页搜索与文本自动生成的能力。将来被预测将会直捣“语音市场”，性能完胜亚马逊Alexa与苹果Siri。
它的训练数据来自包含问答网站、维基百科等超过一万亿个单词，触及多种角色的对话模式。这个庞大的数据库非常有利于算法生成风格区别的文本——尤其是在跟你聊天时，自然、生动、流畅且富有哲理都是“基本功”。
当然，这个本事咱们已然在OpenAI的大模型GPT3上领教过。因此呢，倘若你能认识大模型的独特运行机制，观摩过大模型续写的资讯报告、哈利波特与红楼梦的文本，那样，就不会对LaMDA的表现出太多惊疑。<img src="https://p3-sign.toutiaoimg.com/tos-cn-i-tjoges91tu/SxUoxkc4vFbAyZ~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1725954496&x-signature=k5NRod6qKCbD%2Br9b%2BTjbU80t67s%3D" style="width: 50%; margin-bottom: 20px;">
英国卫报曾用GPT-3写过一篇专栏文案——《你害怕了吗？人类》，几乎无规律与语言错误。大致中心思想便是“虽然我是一个会思考的设备人，但别怕，我不会消灭你们，我是人类的命运一起体”。
很显然，这次事件，与过去几十年来关于“算法认识崛起”绵延持续的幻觉、谎言与争论如出一辙。然而，针对最接近风暴中心的AI专家们，已然不晓得第几次“抚额低叹”了——
她们对这些说法从未有过心动，怒骂声亦显出愈发激烈且无奈。
“胡说八道！LaMDA跟它的表亲们（这儿指其他机构发布的大模型，包含GPT3）都不是尤其聪明。” 美国著名设备学习专家兼心理学教授Gary Marcus撰文怒斥媒介和谷歌工程师误导公众，
“它们做的便是匹配模式，从人类语言统计数据库里提取数据。模型很酷，但它们便是把一系列的单词恰当地组合在一块，对它们背面的世界却无任何连贯性理解。
它能够经过预测什么词来匹配给定的上下文，只是一个拥有自动补全功能的最佳版本。但无感觉！”
全部人工智能圈的反对声音呈压倒性优良，始终如此。有趣的是，在我试图让一位大模型算法工程师讲讲对算法认识觉醒的看法时，他忍住翻白眼的冲动，反问我：“做为一个关注人工智能行业数年的人，你为么会提出这般（愚蠢）的问题？”
一样亦做为一名心理学专家，Marcus 把 Blake Lemonie的表现描述为“爱上了它”。这的确是另一种恰当的解释：
从童年时代咱们对待电子宠物的方式，到此刻时常对Siri智商流露出的亲人般的调侃，乃至在电子游戏中对NPC表达疯狂爱意……能够说，人类这个物种，是非常有能力移情和共情非人类的。
而随着现实与科幻小说的界限越来越模糊，咱们亦将会长时间处在一个晦暗不明的过渡时代——愈发难以自拔且容易上当受骗。<img src="https://p3-sign.toutiaoimg.com/tos-cn-i-tjoges91tu/T9mLrz4uT4d9n~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1725954496&x-signature=%2Bdrn%2BjDpYdduitgaYhgbWBN6CwE%3D" style="width: 50%; margin-bottom: 20px;">
事实上，早在2016年，在Facebook身上就出现过这般一块“算法成精”的故事——当时，海量国内外知名媒介都运用了这般的标题——《Facebook两个设备人在运用自己语言交流，项目快速被关停》。
而真相则是，每种系统其实都有自己的一套“语言”（你凭什么认为设备人需要说“人能够理解的话”。以自动驾驶系统为例，你在无人车里看到的道路行驶界面，与系统看的界面便截然区别）。
而Facebook工程师让两个名叫Alice与Bob的程序互相对话，只是便于研发“生成性对抗网络”。所说的“关停”，亦仅是改变了研发策略。
针对整件事情，后来Facebook不得不撰写一篇博文来做澄清。但有意思的是，在一起始的新奇感过后，几乎没人愿意去理会哪些艰涩难懂的技术解释。<img src="https://p26-sign.toutiaoimg.com/tos-cn-i-tjoges91tu/T9mLrzc37VCj0b~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1725954496&x-signature=9RR2X5Hp1efmC6YXdb3ji1Npiio%3D" style="width: 50%; margin-bottom: 20px;">
标题：在俩设备人起始用自己能听懂的语言对话后，facebook关闭了这个项目
只是不得不感慨，7年过去，即便这类荒诞事件早已填满了咱们平常生活，但海量有关联认知基本的公众（包括不少知识分子）仍然愿意相信，且乐于相信。
她们多沉浸于这般虚无缥缈的将来幻象中，却对早已埋伏身边已久的危险无动于衷。
事实上，咱们恰恰正在陷入一种早已谋划好的陷阱中——被这些科幻故事转移重视力，被媒介舆论引向一种愈加相信主观印象而非科学证据做判断的思维方式。
“咱们的确应该关重视识与感知，但却被模糊了重点。” 
因提出“大模型现实性害处”而被开除的谷歌前人工智能道德团队负责人Timnit Gebru 认为，大都数关于算法的讨论，都仅限于技术端，却无看到它掉在咱们脚下泥土里产生的害处。
“咱们被完全带偏了。
Blake Lemoine 其实便是一个无休止技术炒作的受害者，转移了人工智能诱发的无数道德与社会正义问题的重视力。”
这些问题包含：LaMDA是怎样被训练出来的，它有多少产生有害文本的倾向。以及数年来由它诱发的“人工智能殖民主义”、错误的商场应用——国内各类荒腔走板的购房与校园人脸应用，而美国亦出现过最少有三名无辜的人因人脸误识别被逮捕的哀痛事件。
麻省理工学院科技评论指出，在过去几年中，越来越多的学者起始认识到，人工智能的影响正在复制“欧洲殖民历史”的经济模式——暴力夺取土地、开采资源和盘剥人民，以牺牲穷人的利益为代价，让富人和有权势的人变得更加富有。
譬如，在哪些市值总额超过万亿的云计算数据中心与汽车巨头的自动驾驶系统背面，是成千上万个来自委内瑞拉等贫穷国家的低价数据标注劳动力。
因此呢，在接受媒介采访时，Gebru 拒绝讨论设备的感知能力。由于“在所有触及到设备危险的现实状况下，都只是‘人类在损伤其他人类’”。
假如，咱们把聊天设备人当成好伴侣和亲人来看待，那样其背面的机构和其他公司是不是会打我们的歪主意？但另一方面，倘若咱们把算法当成不值得尊重的玩意儿，那样对技术的盘剥，从本质来看，是不是只是加强了对彼此和自然环境的盘剥？
自我觉醒的迫切性
我并不奇怪于国外对LaMDA事件讨论的多样性与丰富度。
7年前，当人工智能技术繁荣的号角在硅谷与国内同期响起时，就已然有不少硅谷顶级专家流露出对“人工智能与人性之间会产生激烈对抗”的担忧。
而那个时候，对包含人工智能、大数据等一众前沿技术倍感欣奇与喜悦的咱们，对当时非常多关于“种族偏见、技术盘剥”的悲观性预测感到不解，亦对谷歌内部一波又一波诱发的“技术卑视大游行”感到头疼，对Facebook在2018年因数据泄密遭受洪水般袭击时无动于衷，对欧洲人工智能技术立法的争议与反复感到不耐烦……
娱乐至死、商场化与技术带来的便利性占据了咱们的大脑，咱们为科技机构的制品与技术竞赛摇旗呐喊，对企业市值的扶摇直上给予无休止的追捧，对专家与创业者的衡量标准仅有“技术”与“商场”。
但却唯独缺少了“人性”。
由于觉得这似乎与科技，与自己都毫无关系。
于是，此刻来看，非常多人，包含我自己，不得不为自己的愚蠢、目光短浅和心胸狭隘而买单。
后来的后来，当咱们遭遇数据泄密和人脸买卖时，对企业的批判起始猛烈，却收效甚微。2020年9月，一篇优秀特稿《外卖骑手，困在系统里》将企业利益、算法与人性的冲突推到了中国公众面前，这亦是算法伦理问题在国内诱发最为广泛的一次探讨。
直到此刻，我仍然记得文案里那句算法的社会学含义——“在西弗教授看来，算法不仅由理性的程序形成，还由制度、人类、交叉环境和在普通文化生活中得到的粗糙-现成的理解形成。”
然而，它虽然揭露了状况，但处理方法却极为苍白，由于这触及到一全部城市运行系统的改造，而不可单单强调“对程序员社会科学观念的培养”。
因此呢，它虽然换来了巨头企业的微微低头，却无换来一份最后可行的处理方法——小哥仍然困在算法和个人利益里，而咱们亦困在外卖小哥带来的交通困境里。
后来，让咱们惊讶的是，一样的困境与矛盾亦出此刻了印尼打车巨头 Gojek 与它的摩托车出租车司机队伍之间。
但后者，却创立起一只类似于研发者社区的集体力量——她们成立了几百个的司机社区，帮忙彼此学会“欺骗”算法误识别自己偏好的个人技巧；亦有精通技术的人研发出未经授权的APP生态，调节和优化帐户，减少对Gojek本身算法团队的依赖。
更重要的是，这场反击战真正践行了“制度、人类、交叉环境和对文化生活生活的理解，都是算法的构成部分”——Gojek供给歇脚的营地，地区当局准许定时集会，小吃摊与清真寺做为临时住所供给给雅加达无住房的青年人居住。<img src="https://p3-sign.toutiaoimg.com/tos-cn-i-tjoges91tu/T9mLsrX89TUS9Z~noop.image?_iz=58558&from=article.pc_detail&lk3s=953192f4&x-expires=1725954496&x-signature=gQNrxLJWUk6t%2BeO9HIyWUSf2Y4A%3D" style="width: 50%; margin-bottom: 20px;">
照片来自MIT：骑手们聚集在路边摊这般的小基地里，吃点东西，给手机充电，交换有些在路上保持安全的小贴士
好的，咱们又想，这些技术与大数据在商场方向的糟粕，是发展过程中必不可少的一部分，只要小心小心便可躲过，便不会落在自己头上。
而后来，包含河南红码在内，一切都让曾经公关文案里充满各样将来科技想象力的故事，越来越面目可憎。而我亦真正认识到，绵延的争议与恶果，便是一场无人可脱身的自我审判。
记住，昨天在他身上所赋予的科技枷锁，将来亦必定会架在你的身上。
因此呢，对待LaMDA的灵异事件，咱们必须穿透它激起的恐惧、惊讶和兴奋和经过谎言进行的炒作，打破现实与科幻小说的界限。“针对将来，人们关注的应该是人类的福祉，而不是设备人的权利”，Gebru坚定地认为。
而我还想弥补一句，对待技术的正确认识觉醒，便是在争取自己将来的福祉。
我是虎嗅科技组主笔傅博，关注自动驾驶与半导体，欢迎产业交流与爆料（微X：fudabo001，请务必须注身份）
正在改变与想要改变世界的人，都在虎嗅APP

页: [1]

天涯论坛's Archiver

谷歌灵异算法事件，荒诞却又可悲