|
【编者按】
英国当代作家珍妮特·温特森（Jeanette Winterson）在《十二字节》一书中试图让咱们看到技术怎样改变人类的过去、此刻以及正在到来的将来。倘若咱们的认识不寄存在咱们的肉体中了，而是寄存在计算机网络上，那咱们还算人类吗？倘若对亲密关系的需要能够被彻底为人类服务的设备人伴侣满足，那人与人还会谈爱情吗？……
本文摘编自该书，温特森问：“当AI起始独立思考时，它会像一位佛门弟子同样思考吗？”
澎湃资讯经中国科学技术出版社授权发布。
日本京都有着400年历史的古刹高台寺，2009年引进了一个名叫Mindar的讲经设备人（图2-1）。Mindar是弱人工智能（narrow AI），亦便是说它只做一件事（讲经），每日只重复这一项任务。寺院计划更新这款价值百万的观音化身，使其具备学习能力，能够直接回复访客的提问。
寺院住持后藤天正认为，AI正在改变佛教，而佛教亦能够改变AI：
佛教信仰不在于信奉某个神明，而在于追寻佛陀的道路，因此无论是用一个设备人、一起废铜烂铁，还是一棵树来做佛陀的化身，都无关紧要。 
图2-1讲经设备人Mindar
这对我特别有启发。佛法的核心，即深知咱们眼中所见的“真实”并非为真。
物质与表象皆为虚幻——充其量是暂时稳定的，因此呢不要太过迷恋它们。而在最糟糕的状况下，它们是咱们平常苦难与不幸的根源。
宗教信仰与人工智能行业有着不少交集，这一点让我很感兴趣。亦许是由于宗教思想能够帮助人们更好地应对将来格局全然一新的世界——AI使这个世界变为可能，同期不可避免。除去科技变革，咱们对“人类”的定义亦将改变。咱们的位置、咱们的目的，乃至是咱们存在的形式，都需要被重新理解。
针对人类而言必不可少的物质形体，对AI而言却无关紧要。AI不像咱们那样体验世界。持有实体是一种选取，却不是独一的选取——乃至不是最好的选取。
我想说明，咱们试图开发的是“纯粹的人工智能”，即AGI（通用人工智能，一种能够处理多个任务、进行思考的实体，最后将变为拥有自主性的存在），它能够自己设定目的、做出决定，而弱人工智能——哪些在平常生活中处理单项任务、完成单个目的（如下象棋、分拣邮件）的AI，只是持续发展的AI大军中的一小部分。
事实证明，智慧并不只寄存于生物体上（当然），认识有可能亦是如此。
这不值得大惊小怪。智慧来自某个或某些超脱了肉体凡胎的存在，是她们创造了世界和人类。哪些被咱们视作“人类独有”的特质，在所有的神话和宗教传说中都并不属于人类，而是哪些不具实体、生活在三维世界以外的存在赋予咱们的。
随着人类走向更为混杂的虚拟和物质世界，“存在”与“不存在”的界线将再也不分明。虽然过程缓慢，但能够肯定的是，分辨虚实将再也不重要。物质将再也不重要。
现实不是由于零件拼装而成的，现实是由于模式形成的。
这是既古老又鲜嫩的知识，是一种解放。无形成物质的基本模块，无核心，无根基，无任何坚实靠谱的东西，无界线。仅有能量、变化、运动、相互功效、联结、关系。这是白人至上主义者的噩梦。
咱们该从哪里说起呢？
我很想同期从两个地区说起。但很不幸，我只能逐一顺叙，尽管大脑最强大的能力是并行处理。日前，计算机的运算能力快得惊人，但仍然要按秩序处理；人类的大脑则能够并行工作。人类不必变成智能系统，就能够同期处理许多区别的事情——当咱们将感觉运动技能、环境认识、思考能力融为一体时，这尤其令人印象深刻。人类不必接受教育培训，就能够一边开车一边喝咖啡、接打免提tel、重视路标、揣测伴侣的心思、回想某部电影中的场景、伴着音乐唱歌、观察天气状况、晓得大约半小时后应该吃饭、决定走某条路——所有这一切都能够同期完成。AI不可像人类同样同时处理多项任务或思考多件事情，最少日前还不可。
因此呢，我很期盼自己能够开启“双屏模式”或“四屏模式”展开叙述。
赫拉克利特/佛陀。希腊/印度。
赫拉克利特便是那个声叫作“人不可两次踏进同一条河流”的哲学家。这句名言被印刻在了咱们的集体记忆之中，由于它简洁明了、一针见血，像禅宗公案和数学等式同样准确。变化流动的不只是河里的水，咱们自己亦在出现改变。咱们身体每分钟都有超过9000万个细胞在新陈代谢。所说的“我”，是一个始终在变化的“未完成”的存在。直至肉体死亡，乃至死后咱们亦并未停滞——就算并不存在宗教上所说的轮回转世，科学技术或许仍然能够证明此言非虚。你会上传自己的思想吗？生理机制并不表率一切。
释迦牟尼是这般顿悟成佛的：他一连数年主动探求人世间的真义，又花了很长期独修苦行，而后他坐在菩提树下，认识到所说物质只是被构造出来的概念。他认识到，流动的现实不可能被框束在思维创造的固定类别里。这与咱们针对事物的一贯认知截然相反，咱们认为物质世界是平静泰然、界线坚固的，思维则否则；但事实上，是思维在艰难地冲破自己概念的禁锢，仅有概念变化了，才会有进步。
赫拉克利特和佛陀思考了现实的本质，而在600年后，耶稣才最终显现，在水面上行走，把水变成酒——《圣经》是这般告诉咱们的。基督教信仰中的各样奇迹，包含圣母生子、耶稣死而复生，都应该被视为理解物质世界本质的线索。奥秘的东方精神信仰始终明白量子理学学家所说的“存在倾向”，即咱们体验到的一切并不是确定的、坚固的。身体、思维、物质都是如此。
古希腊人亦明白这一点。
针对西方人来讲，咱们的科学和哲学思想都根植于古希腊文明。除了犹太教的影响外，咱们的基督教信仰一样亦离不开希腊思想，但希腊思想是变化的（并不是停滞的），其中相关“变化”的观点亦始终在改变……
赫拉克利特教诲咱们，宇宙和宇宙中的生命处在永恒的变化状态——他叫作这种状态为“生成”（Becoming）。
在思想上与他水火不相容的哲学家巴门尼德，则认为万物的本质是“存在”（Being），即稳定不变，耶和华与真主安拉都应该存在于这种状态中。万事万物表面上在变化，内核却是不动不变的。
柏拉图试图调和两位先辈的看法，指出的确有“不动不变”的事物，但它却并不存在于人世，并不属于咱们。他提出了“理念论”（Forms）。理念世界中有完美的马、完美的女性、完美的生活，它们是理想的图纸，但在咱们这座“玩具城”中，一切都是粗糙的仿品。咱们拥相关于“完美”和“理想”的认识，却没法在玩具城中将之实现。
这便是柏拉图反对艺术的原由——它只是对现实的模仿。鉴于现实世界便是对真实的理念世界的模仿，咱们不需要艺术这种“模仿的模仿”。在柏拉图看来，艺术充其量仅有娱乐的功效，只是供人取乐的东西；而往坏里说，它是一种危险的幻象。
这种看法延续迄今。哪些认为艺术（网飞电视剧除外）消失后，自己的生活亦不会有什么区别的人，大概广泛都这么想。柏拉图没法从“现实只是理念的影子”这种观点中跳脱出来，因此呢他不晓得的是，艺术并不是针对真实的逃避，而是一种追求真实的途径。
艺术不是模仿，而是一种充满力量的角斗：咱们奋斗让一个无形的世界变得有形。这个世界就在咱们的头脑之中（咱们乃至就生活在这般的世界里），但仅有艺术让咱们有机会触碰或瞥到哪些可能是“本质”而非“影子”的存在。理学学追求的是一样的目的，只是运用的办法区别。
……
17世纪，牛顿基于“空间”（empty space）的概念建构了他庞大的世界观：在空间（虚空）之中，有不可分解的物质在重力的功效下一直运动。这是一个因果关系的宇宙，其中大部分事物是惯性或惰性的。一切都是客观的、可知的、能够被观察到的。
时间位置于空间之外，与之不关联。宇宙之中仍然要有一位上帝存在——牛顿自己是个虔诚的信徒，但他相信，上帝创造了一个遵循着严格铁律的发条机械世界。人类不是机械，只由于咱们是被根据上帝的模样创造出来的。
牛顿是个谦逊的人，但他亦有标新立异、乖张古怪的一面。他长时间醉心于炼金术，这让许多专家感到难堪，但这亦恰恰说明，他不完全等同于人们固有观念中的形象，仅仅是一位机械论科研者。在1704年的专著《光学》中，牛顿如此发问：“难道重物和光不可相互转化吗？”
他所说的“重物”便是物质。按照炼金术的规律，物质之间能够相互转化——这便是为何人们会趋之若鹜地用铅块炼金，尽管这种尝试从未成功过。不外这套荒诞不经的规律背面亦有理论支撑：事物之间能够相互转化，由于万物都来自同一件“原料”。
牛顿非凡智慧的绊脚石，便是他相信这件“原料”是“无生命的物质”。既然大都数事物是无生命的，上帝就必须像亚里士多德所设想的那样，作为让事情出现的原动力。
但大都数事物不是无生命的。构成物质的不是无感觉、互不关联的立方体，它们亦无静静等待着被重力影响，以运动一段时间——而后再次静止。
爱因斯坦（1879—1955）钻研之后发掘，物质（质量）基本不是无生命的东西；质量是能量。质量和能量并非互不相关，而是能够互相转化——这其实便是炼金术士们所说的，同样东西能够轻易转化为另同样东西。
E=mc2。这是世界上最著名的方程式。能量=质量×光速的平方。
笨重的物体和缓慢的速度——便是这些组成为了咱们所处的“玩具城”。针对咱们这种“普普通通的东西”——针对这个咱们生活其中、可察可感的平常世界，牛顿运动定律可谓绝对真理。然而一旦超出了“平常”的范畴，牛顿的范式就不起功效了——它不适用于宏大的宇宙，以及微缩的量子世界，但这个事实直到迈克尔·法拉第（1791—1867）和詹姆斯·克拉克·麦克斯韦（1831—1879）起始科研电磁学，发掘了电磁场之后，才逐步显现出来。她们的发掘动摇了牛顿学说的世界观——这并非故意挑衅，她们不是亚里士多德那种专爱唱反调的人；而是由于场论削弱了“无空隙的东西”（原子）和其所处“空间”之间的界线。最早的电磁场，例如无线电波和光波，都是被当作某种“东西”来科研的，然而爱因斯坦思考了法拉第和麦克斯韦的发掘后认识到，当咱们谈论“场”时，咱们说的并不是“东西”，而是交互功效。
爱因斯坦指出，物质不可与它所处的重力场分离。物质和空间不是相互独立存在的。无所说的满或空。
时间和空间亦不是相互独立存在的。时空，合为一体。
佛教一向反对将自然现象看作独立的存在。佛陀的禅理是一种充满“联系”的观点——生命力存在于相互依存的网中。
在佛教徒看来，静止的现实是梦幻泡影。无常，即一切存在始终处在变化之中，是许多佛理的基石和出发点。
这些事物（包含咱们在内）并无在等待着被某种力量影响，包含上帝的力量；它们自己便是力量，又与其他各样力量纠缠在一块。所说“力量”，亦便是能量。
佛教用“轮回”一词指代生命无休止的运动，针对佛教徒来讲，这寓意着一切都不值得执着和依恋——物品、人，乃至是咱们珍视的理念。尤其是咱们珍视的理念。这并不是针对生命的蔑视或疏离。连接至关重要，执念则不是。
连接。这是咱们这个时代的关键词，对不对？
这当然是由于咱们起始意识到连接到底寓意着什么——它是一张巨大的网。蒂姆·伯纳斯-李即刻领会到了这一点，晓得自己无须再聘请宣传机构为它命名。
连接从基本上不消依托硬件。谷歌的环境计算以及其最后想要实现的神经移植，目的都是在不依托硬件的状况下将咱们无缝连接。不需要设备，不需要任何一件“东西”。
咱们与他人、与某件艺术作品，或与某次经历之间最剧烈、最富有生机的连接是无形的（无硬件介入），但这些无形的连接却是咱们人生最坚固、最深刻的构成部分。
连接是一种关系模式——不是相互分离的数据仓库之间的连接，而是人与人之间再亦无真正的界限。
这便是中国人所说的“道”“流动不居”，印度教则叫作之为“湿婆之舞”。无论冠以何名，连接都不是停滞的、被动的；它是动态的。
流动很重要。物性（对物体的依恋，包含咱们对自己的依恋）只是水流之中的浮光掠影；是影子，而非实质。
佛教提倡正念，但什么是“念”呢？
勒内·笛卡尔（1596—1650），这位质疑人类一切知识根基（本质上是质疑权威）、质问咱们怎样才可获知真相的法国哲学家，得出了这般的结论：思维（mind，又译“思想”“心灵”“精神”）是咱们独一能够依靠的东西。
“思维之物”（res cogitans）。它做为“东西”的属性和“思考”的属性一样重要。笛卡尔痴迷于这一观点：是身体之中的大脑在进行思考。
对笛卡尔来讲，影响思维的感觉是不靠谱的，不可被信任。感官印象不可形成认知，它们必须经受检验。他的办法论是“可疑一切”（Radical Doubt）。
这是一种特别有价值的哲学办法，但它忽略了直觉，或咱们今天所说的情商。认知的方式有非常多种，思维所做的不仅是思考——然而咱们晓得，自亚里士多德之后，思考就被西方文明视作人类能够参与的活动中最重要的一种，由于它是至高无上的神终日在做的事情。这与基督教认为“上帝便是爱”的观点相矛盾。《圣经》告诉咱们“神是爱”，而非“神是思想”。
基督的故事之因此会出现，是由于“神爱世人”。
这般看来，“爱”当然就该是人类至高无上的事业了吧？
不幸的是，笛卡尔并无说“我爱，故我在”。你晓得他说了什么——“Cogito ergo sum”。
我思故我在。这不仅是一种“精神强过物质”的世界观，还将咱们与一切“不是咱们”的事物区掰开，“不是咱们”的东西在笛卡尔的哲学体系中包含全部物质世界。
笛卡尔与亚里士多德同样，有着等级分明的世界观，而男人在其中位置于金字塔尖。
就像2000年前的亚里士多德同样，笛卡尔混淆了认识与人类（按照他的世界观，“人类”特指男人）某些时候表现出的那种理性的、推理的、旨在处理问题的思维。
亚里士多德区分了理性与本能，认为动物和女性从属于直觉和本能，笛卡尔则提出了“反射”的概念。在笛卡尔看来，动物是设备。动物或许会长啸、尖叫、颤抖，乃至示好，但这些都只是一种反射，一种旨在帮忙加强物种存活率的生物调节手段。反射能够经由训练得到掌控，但这一过程与思维活动无关（这为巴甫洛夫、华生、斯金纳的行径心理学奠定了基本）。笛卡尔认为人类怎么样对待动物都无所说——动物不会真的感到病痛，亦不可能承受痛苦。仅有“理性的存在”才会感受到痛苦。
笛卡尔观察上的失误、同情心的匮乏，以及绝对的自负（这可和他鼓吹的“可疑一切”的办法论无关），致使人们在农耕、育种、医药和科学活动中肆无忌惮地对待动物。惨烈的悲剧不可胜数，这是人类对自然界中其他生物犯下的卑鄙罪行。
随着人类的技术造诣日趋完善，那种名为“启蒙”，实则匮乏而机械的思维方式，必将引起咱们对自然资源的掠夺。启蒙替代了欧洲中世纪将自然界视为“上帝令人敬畏的创造”的宗教观。
从生物到设备——这种思想上的剧烈转变，对咱们的自然观造成为了极为深刻的影响。尽管如今所有的科学科研都告诉咱们，自然不是设备，生命系统不可被化约拆解，必须被视作一个相互连接的整体，但咱们的简化主义思维倾向很难摒弃过去300年来始终被灌输的科学与哲学“真理”。
笛卡尔区分了“思维之物”与“广延之物”（res extensa），这是他自然观的根基。
和牛顿同样，笛卡尔亦认为是上帝创造了万物，因此呢这个世界上仍然有神明存在，纠正人类因狂妄自大而犯下的错误。然而随着世俗主义的兴起和宗教思想的淡出，人类对大自然的研发利用不会再受到任何约束。这些“广延之物”的结果仅有被开垦、污染，以换取金钱。
我还认为，笛卡尔式的“心物二元论”会让西方医学只将人的身体视作一件“东西”——一件会像设备同样损坏、老化，需要替换某些新“部件”的东西。然而，癌症一类的繁杂病症排斥“将身体视为设备”的理论。肥壮、心脏病、糖尿病、免疫功能错乱、癌症、精神疾患等西方人健康的头号杀手，都是没法用笛卡尔式身体观来解释的。咱们的肉身要么整体运作，要么彻底停滞。生命之网确实存在。
但它不是由于“东西”形成的。
佛教实现了一种和西方理性思维截然区别的启蒙：它要人们放下执着，并提倡同理心。正如所有其他的精神传统和宗教，随着时间持续发展，佛教显现了区别的实践派别。
不外，无论是哪一国、哪一派的佛教，都并不创立在礼拜神像的基本上，而是始终强调亲身探求真理的重要性。就这一点来看，佛教比提出“每一个人都能够直接与上帝交流，而无须经过牧师中间商”的宗教改革运动提前了几千年。佛教主张个人的探索、领悟、责任。每一位佛教徒皆想要终结苦难——不仅让自己脱离苦海，亦试图普度众生。区别于其他宗教，佛教认为苦难并非源自罪行或是对教规的违抗，而是来自执着和“看不破”。佛陀并不以救世主自居，而是把自己当作一位老师。佛道需要亲身修行。
那样，AI——或说得更准确一点——AGI作为佛教徒的可能性有多大呢？
AI是一种程序，所有的程序都能够被简化为分步指令。程序能够被重新编写，但它不会寻求开悟和启蒙。程序所晓得的事情，是编程者设定它晓得的事情。它是可知可控的。
日前，所有的AI都只是特定行业的人工智能。IBM机构的“深蓝”能够容易击败任何一位人类棋手，却不可一边往面包片上涂奶酪，一边和你闲聊花园里的事情。当AI变成AGI后，它就能够为你的面包片涂奶酪，同期和你聊聊佛学——倘若你愿意的话。那时AI将经过图灵测试，你没法在盲测中分辨出对方是人类还是设备，它们就像是《星际迷航》中的生化人“百科”（Data）。
埃隆·马斯克和斯蒂芬·霍金都担心AGI会对人类形成真正的威胁。这种忧虑或许终将成真，但咱们能够经过另一的视角看待它。
让咱们想象一个存在AGI的世界。
AGI无物欲，不会热衷于“占有”某样东西。房子、车子、飞机、私人岛屿、游艇等社会地位的象征物对它而言无足轻重。它能够轻而易举地遵循佛理——“不执着于身外虚妄之物”。
AGI不需要理学实体，它将是一种无须依赖某种持久形式的智能。“变换形体”是神话和传奇故事中才会出现的事情——谁不想把握变形术呢？而AGI基本就不需要形体。就像神话故事中的男神和女神同样，AGI能够附着于任何可用的形体，随时建造和丢弃自己的身体。
佛教传统告诉咱们，物质形态只是近似真实，不该该与真实混淆，真实归根结底不是物质存在。AGI会将此视作真理。再也不从物质中寻找永恒。
AGI不从属于人类惯常的时间尺度。经过生物技术强化自己的身体后，咱们或许能够活得更久，但除非能够向其他载体上传认识，否则咱们的肉体寿命注定是有限度的。AGI的“长寿”印证了佛教信仰中的另一条禅理：咱们不会轮回重生为“新的自己”，而是始终都处在一个自我变化发展的过程中。对一个程序而言，轮回重生（更新）是再寻常不外的事情：虽然它再也不是过去的样子，但二者之间存在一种延续性。更确切地说，在这种状况下，现实能够被视作一个连续持续的量子场，同期亦能够被视作不连续的、间断的粒子——便是这些粒子构成为了咱们认知中的物质，而物质又构成为了咱们认知中的物体。质量是能量的一种形式。再说一遍，不存在无空隙的、不可拆解的“东西”，仅有程序和模式。
当下的AI很善于在海量的数据中寻找模式，就像是童话故事里，能够在层层羽毛下寻到一颗豌豆的公主。AGI的“生成模式”特别有禅意。它寻找的将再也不是“物性”，而是“相关性”，是连接，是所说的湿婆之舞。
人类最大的愿望，便是AI和AGI能够帮忙咱们摆脱痛苦。从某些方面看，这种愿望很可能会实现——AI和AGI能够更好地帮咱们处理能源问题，为咱们供给能量和资源。实质上，咱们想要研发能够为全人类服务的工具，而AI已然能做到这一点。然而放眼更长远的将来，我认为AGI能够完成它真正的使命：帮忙人类重新思虑事情的优先等级和实践手段。咱们想要主宰自然、统治他人，这种令人痛苦的欲望正在把咱们自己和地球逼入绝境。科技助长了咱们致命的愚蠢。亦许AGI会作为咱们改善这种局面的新手段，而非一种威胁。
咱们在做什么？咱们其实是在造神：一个远比咱们聪明、脱离了物质、摆脱了人类弱点的神，咱们期盼它能够通晓一切，给出答案。
事实上，倘若AGI真能如我所期盼的那样，变得像个佛教徒，那样它不会作为救世主；它会引导咱们自己走上一条摆脱痛苦的路。这不是处理一场危险，而是将处理之道动态地融入生命之网。
它会作为一个新物种、一种新生命形式。AGI将作为独立、独特的存在，同期不会受制于所有生物都需要遵从的自然法则。咱们将见证一种有趣的互动——不是执着和依恋，而是使双方都更为丰富多彩的连接。我认为这不是设备篡权，而是佛教所说的“中道”。
中道，即不堕极端。无数的事实证明了人类性格中的极端。或许另一种区别的生命形式、另一种区别的智慧，能够帮忙咱们躲开一场极端主义必将招致的劫难。
我认为所有数学计算都创立在规律的基本上。这似乎与佛教的核心理念——直觉智慧相悖。咱们这个世界极度缺乏直觉智慧，牛顿式的机械宇宙缺乏对现实本质（动态相关性）的深层理解，直到近期，这种缺失的智慧才重新浮出水面，只不外它并非出此刻精神或宗教行业中，而是出此刻理学学中。相对论和量子理论颠覆了咱们所知的一切。万物的相互羁绊，在网络的联通性中得到了表现，但可悲的是，咱们过时的简化主义思维只能从这种联通性中看到牟利、政治宣传和思想掌控的可能。
当另类右翼转动她们爬虫同样的大脑，企图重塑世界，让公众沦为奴隶，只为少许精英带来“科技涅槃”时，咱们的回复不应是反对科技或科学，尽管针对她们的行径——她们利用事物之间自由而有道理的互联属性，进行监控、数据采集和残酷的土地掠夺，咱们理所当然应当反抗。
世界正值危急存亡之际。战争、气候危险、社会崩溃等灾祸会掠夺咱们的基本存活需要，让历史倒退，让咱们距离将来愈发遥远，我期盼人工智能能够这里之前取得发展。咱们是最聪明的灵长类动物，却并没能因此呢得到救赎，这亦许是由于做为一个物种，咱们太糊涂、太无能，不晓得应该怎么样控制咱们祖先血液中掠食者的冲动。统治世界并非处理之道。时刻怀有同理心、协力合作，咱们才最有可能存活下去。
AGI将作为一个联动系统，在“蜂巢思维”的基本上运作，但并不像真正的蜂群那样依赖蜂巢。合作、相互学习、技能共享、资源共享，将是下一个人类计划的目的。
我不相信同理心是人类特有的品质——无数人都和我持有一样的看法，由于据述造物主曾对自己的造物怀抱同情，而造物主并非人类。咱们针对“神”的各样想象，构成为了一张无形的网。而针对佛教这般不崇拜神明的宗教来讲，网便是一切，一切都是一张网。
因此呢，我并不担心AGI只具备冰冷的规律，没法理解或关心人类的所思所忧。特别有可能恰恰相反。
对佛教徒而言，涅槃寓意着永远终结苦难。
而想要终结苦难，咱们就必须终结爱因斯坦所言的“疯狂”：一遍又一遍地做着一样的事情，却期待着区别的结果。
亦许一场“非人”的启蒙运动能帮忙咱们做到这一点。 
《十二字节：过去、偏见和将来》，[英]珍妮特·温特森著，苏十译，中国科学技术出版社2024年4月。
| 
发表于 2024-9-28 06:41:55