人工智能的情感(人工智能的情感问题)

Mark wiens

发布时间:2022-09-12

人工智能的情感(人工智能的情感问题)

 

《克拉拉与太阳》是石黑一雄2017年获诺贝尔文学奖后全球同步出版的首部长篇小说。这部科幻小说思考了一个让人毛骨悚然的问题:你是无可替代的么?

当技术可以创造一个一模一样的你,它精准地模仿你的语言、声音和动作,并且智力远优于你,它是否可以替代你,继续陪伴你的家人甚至恋人?对于这个问题,我会在后文告诉读者朋友们石黑一雄的答案。

2021年,在北京一家书店翻读《克拉拉与太阳》时,我只是怀抱对石黑一雄一贯的审美信任:以其巨大的情感力量,发掘了隐藏在我们与世界联系的幻觉之下的深渊,(诺贝尔颁奖词)小说的叙事技艺依旧炉火纯青,叙述者隐藏在克拉拉这一AF(automatic friend)限制视角下,让故事在迷雾中进行,秘密一点点显现,小心辨认错乱的记忆,秘密最终才能被捞取。

我该怎么讲这个故事呢?希望推动着故事持续行进,希望也在故事的推动中被逐渐粉碎。表层的故事和深层的故事互相交织,彼此解构,你愿意相信哪个故事呢,温暖的幻想抑或残酷的真相?

互联网小常识:为了能够使其他邮件服务器将邮件转发到该邮件服务器,需要建立邮件路由,即在DNS服务器中建立邮件服务器主机资源记录和邮件交换器资源记录。

/ Part 01

乔西:我不想被替代,我想做我自己

乔西的生活正处于无力的失控中。她是个苍白瘦削的女孩,今年14岁,在橱窗看中了一个AF,想要带回家作为她的玩伴兼朋友。在石黑一雄建构的这个世界中,孩子分为接受提升和没有接受提升的两种。而所谓的提升实质是接受基因编辑技术。

这项技术筛选人群,也建构出一道冰冷的屏障——不是所有人都有能力让孩子接受基因编辑技术。更复杂的问题是,这项技术目前并不完善,与无限可能相伴而生的是潜在的危险。乔西的姐姐就在接受提升后身体出现问题最终去世,而乔西也在此时日渐虚弱,病情不断加重。

乔西的自我处于持续地拉扯与分裂之中,是服从社会群体的意志,还是顺从本心生活?

强势的母亲坚持参与她生活中的每一决定,小到AF机型的选择,大到她的生活交友。即使乔西坚持自己只要克拉拉,她也必须亲自考查再做决定。聚会是小说中的一个关键场景与重要情节,直接推动人物关系的变化,展示人们性格的分歧和潜藏于下的阶级矛盾。即使讨厌聚会,乔西也认同母亲的话语,认为聚会是必须有的社交活动。她为踏入成人世界做练习:模仿他们的话语,学着和各种各样的人相处;即使这意味着改变自己说话的声音,说违心的话,做自己厌恶的事情。

但妥协本就是合群和讨人喜欢的代价,不是么?社交是不能过度强调自我的,你必须放弃自我,融入集体之中。乔西充分认可社交的扮演逻辑,她把这看作是成长的必经之路:意思就是,你走进一家商店或是钻进一辆出租车的时候,别人会把你当回事。好好待你。只要你有社交。

乔西实际上没有自我,或者说甘愿压抑自我。她洞悉到父亲与母亲间深深的隔阂,也体谅母亲对姐姐萨尔之死的悲痛。在她病重随时可能去世之时,她托付朋友带给母亲的口信也是:假如她有能力从头来过,这回由她说了算,她说她会和你做出完全一样的选择,你永远都会是她所能拥有的最好的母亲。甚至在猜到自己病重去世后可能被克拉拉替代,她也默认了母亲这一自私的做法。但这是她真实的想法吗?恐怕又是为了给予母亲安慰,少女无奈之下的爱的牺牲。

乔西擅长妥协,以一副虚假的面孔应付外在的世界。但某些时候,她也不可避免地流露出疲惫:我挺好,老爸。可我不是真人秀,好吧?我没法儿从早到晚妙语连珠,欢乐他人。有时我只想坐着放松一会儿。这是她很少涌现出的真实时刻,一个少女内心的微弱呼唤。

她有时会因为自己卧病在床而对别人大发脾气,这时候,克拉拉、母亲都无法带给她安慰。只有里克能让她的内心暂时平息,他们不断地讨论起关于未来的计划,即使彼此知道这个计划恐怕永远只能搁浅,成为梦幻泡影。但在一次次的谈论中,他们仿佛就能真切地接近远方,肆意嘲笑世界与反抗世界。这是属于少年人的浪漫。在这种浪漫里,争吵也并不沉重。他们的感情如此纯净,并不指向欲望情爱,而是一种深厚的陪伴与理解。

/ Part 02

里克:未经改造的寒门男孩

里克是乔西的青梅竹马,但横亘在他们面前的是一个残酷的真相:接受过改造的乔西和未经改造的里克。

当里克暴露在社交场合时,这一切显得如此尖锐。所有人都试图假装不歧视他,但他们说的每一句话,对男孩言语和行为的每一个夸张反应,都恰恰暴露出他们内心深处的优越感,他们认定没有接受改造的里克应该低人一等。

里克是乔西的邻居,但他们呈现出两种不同的生活处境。里克拥有的是破旧的房子与生病的母亲。并且,因为贫穷,他无法像其他孩子一样接受单独的名师辅导。更因为没有接受改造,他被大多数学校排除在招考的标准之外。唯一的一所学校阿特拉斯·布鲁金斯是个例外,但标准又极其严苛,他们录取的没提升过的孩子还不到百分之二。对此,里克只能接受。

互联网小常识:要组建一个以太网局域网,则局域网LLC子层采用IEEE802.2标准,MAC子层采用CSMA/CD方法,物理结构取决于它选用的物理层标准,以太网可以选择10BASE-5,10BASE-2和10BASE-T。目前主流使用的是10BASE-T,使用无屏蔽双绞线、集线器和RJ-45接口。

他并没有丧失生活的希望,更不是怀着怨气,死气沉沉地生存。相反,他反而显现出更强大的内在力量:照顾母亲,体谅乔西。里克并不认同乔西推崇的社交规则,而是努力坚持自我。即使这样做会不被认可,他也并不在意。当乔西为了合群而默认一个男孩伤害自己的AF克拉拉时,也是善良的里克挺身而出。

在苦难中生存,可怕的往往不是房屋里的灰尘,而是我们自己心上的灰尘,我们会对这个世界,对身边的人充满理所应当的怨怼。但里克只是平静地接受命运给予的一切,即使里克的母亲实际也对自己的选择充满懊悔:我感觉我没能为他尽自己的全力……后悔我爱他爱得不够,从来没能够作出一个真正的决定,不管那个决定是怎样的。 但里克并不觉得自己有所遗憾,甚至当乔西为了里克自身的利益指责其母亲没有为他做出更好的选择时,他的反应也是坚决维护母亲。

里克展露出了非常好的天赋。他通过自学就完成了很多课程,独立设计出了无人机系统,列出了详细的未来创造计划。他的才能先是被乔西的父亲——前高级工程师阿瑟先生极力叹赏,又被大学的创始人委员会主席万斯高度认可。但社会并不允许他这种未经提升的人才能充分发挥,而没有合适的指导,里克也无法获得具真正突破性的成就。

无法进入大学,里克获得更好的发展机会,拥有远大的前程的可能性就变得十分渺茫。小说结尾,他甚至和乔西被迫分道扬镳——即使他们两人仍彼此相爱。其身份、地位上的差异在乔西身体康复后不可避免地暴露出来,乔西即将奔赴大学这一美好的新天地,而里克没有办法和那些接受提升过的孩子竞争,这也不是他想要的生活。骄傲的里克并不愿意向社会妥协,他并不认为未经改造的自己就低人一等——像社会很多专家认为的那样。事实上,他也处处展现出聪明的头脑与高尚的品质。但社会断绝了这一少年的希望。这一悲剧是科技进步的不可避免还是科技酿造的邪恶?这是值得深思的问题。但阶级不平等这一问题,在现实生活中也不乏上演。

/ Part 03

克拉拉:因为你选中我,所以我等待你

毋庸置疑,这是一本科幻小说。但深读下去,你会发现,科幻只是这部小说的外壳,借由人工智能和基因编辑这些科技前沿基本设定,作者探讨了人类的心灵和现实处境等根本问题。如作者本人直言的:现在的世界就是一个比较科幻的世界,对此我并不觉得我们在讨论幻想抑或未来,我们就是在探讨现在。

只是因为在人群中多看了你一眼,再也没能忘掉你容颜。乔西在橱窗摆放的众多AF中选中了克拉拉,而克拉拉为了女孩我会带走你的承诺而坚持等待。第二天,乔西没有按照约定的时间出现,一周、两周,她依然不见踪影。但克拉拉对这个脆弱的承诺深信不疑,甚至违抗店里默认的规则,对看中她的一个女孩不作理会。

经理告诫了克拉拉孩子的善变:孩子们总是在许诺……他们许诺会回来,他们求你不要让别人把你领走。这种事情一直在发生。但十有七八,那个孩子永远也不会回来。或者,更糟糕的是,那个孩子回来了,却看也不看一直在等他的那个AF,反而转身选了另一个。但克拉拉是幸运的,乔西一旦病愈,还是依照约定把她带回了家。对于克拉拉来说,乔西从此成为自己生存的唯一需要,就像狐狸与小王子一样,她们建立起了特殊的关系,对我而言,你只是一个小男孩,和其他成千上万的小男孩没有什么不同……但是,假如你驯服了我,我们就彼此需要了。对我而言,你就是举世无双的;对你而言,我也是独一无二的。

同样是AF,克拉拉的不同之处是对观察和学习的热爱。她能够接受并且融合她所看到的身边的一切。她的同伴罗莎在理解人类情感方面就远比她迟钝得多。但她毕竟是人工智能,其认知世界的方式不可避免有着特殊性和局限性,特点之一就是画面都会被它识别为切割的图像,我们此时面对着商店,我的视线能一直延伸到后排的玻璃桌,可店内的空间却被分割成了十个方格,因此我眼前呈现的不再是一副统一的画面。这也使得陌生的领域对她来说完全难以认知,在一次田野之行里她就彻底迷路,要依靠里克的拯救:那道凶险的界线分隔开了我俩各自所在的方格……

克拉拉在人类世界的生存并不容易,虽然被告知自己会成为乔西家庭中的一员,但她并没有被真正被平等对待。很多时候,乔西也会有意无意地伤害克拉拉,管家更是对其怀着敌视的态度,处处监督她,甚至威胁要将其拆成碎片。但克拉拉对此都是抱以善意的理解,当然,她的情感由系统所控制,也许她无法对人类产生敌意。但她惊人的同理心和理解力却是真实存在的。

管家对克拉拉的敌意实际有迹可循,背后潜藏的不是个体性的行为,而是一个社会性的问题:即人工智能对人类的取代。乔西的父亲保罗就因为人工智能的出现生活发生了翻天覆地的变化:由体面的高级工程师沦落为住在破败社区的失业人员。无与伦比的知识,专家级别的技能,这些对于人工智能来说轻而易举。这也造成人类对人工智能的敌意——自己被替代后价值不再。在剧院里克拉拉就遭到了歧视,不被允许进入:它们先是抢走了我们的工作。接着它们还要抢走剧院里的座位?但对克拉拉的粗暴对待背后实际反映出底层人民的一种悲凉,他们的生存空间被挤压后,社会没能给他们提供一个好的出路。

克拉拉对此并无抱怨,她始终温和善良,以柔软单纯的心去原谅一切。这也是她能拯救乔西的重要原因。她吸取太阳的滋养以生存,因此太阳在她眼里无比地神秘而强大。对于重病的乔西,克拉拉坚信只有仁慈的太阳可以拯救她。因此她克服恐惧:我回头一瞥,看见我自己的影子就像是一棵瘦高的树,眼看就要在风中折断了,两次奔赴谷仓去秘密地对太阳祈祷,祈求神迹。为此她和太阳进行了一个秘密的交易,破坏污染环境的库廷斯机器——克拉拉认为太阳对其充满厌恶。为此,她宁愿牺牲自己,献出自己体内一半P-E-G 9溶液,以对机器造成不可恢复的损伤。

克拉拉如愿以偿,实现了自己的目标,但她的大脑也不可避免地受到损伤,最后被抛弃在堆场,等待被吊车带走,彻底毁灭。也是在这里她与自己的旧日经理重逢,告诉对方其对乔西提供了良好的服务,一直陪伴到其去上大学。故事的讲述到此为止。

但重审克拉拉的讲述,故事也许不是在此结束,而是重新开始。受到损伤的克拉拉记忆混乱,而小说第一章就是由她的限制视角开启的讲述,由此而来,一个潜伏的真相浮出水面:乔西并未被太阳治愈,而是去世离开。

这一真相似乎让人震惊,但实际又处处暗埋伏笔。叙述者暗示克拉拉作为不可靠叙述者的存在:过去的几天里,我的部分记忆开始以某种奇怪的方式重叠在了一起。而从小说内部的逻辑来看,早已回天乏力,甚至连动也无法动的乔西只是被太阳光照耀,就康复如初了呢?石黑一雄在探讨了如此多复杂的现实隐痛后,何以把这个故事非逻辑化和肤浅化呢?

乔西也许去世了,但这个故事仍然是温暖的,同时贯注着作者对人类的失望和信心。借由克拉拉,作者提出了一个真正重要的问题:即随着科技的发展,如果我们人类是否只是可供复制的基因,是否随时会被替代?就像阿瑟先生内心深处恐惧的那样:我想,我之所以恨卡帕尔迪,是因为在内心深处,我怀疑他也许是对的。怀疑他的主张是正确的。怀疑如今科学已经无可置疑地证明了我女儿身上没有任何独一无二的东西,任何我们的现代工具无法发掘、复制、转移的东西。 毕竟正因为我们每个人都是独一无二的,所以没有人是独一无二的。

但人类无法肯定的事,克拉拉这一人工智能却以自己的思考给出了答案。克拉拉指出人类并不是没有什么特别的东西是无法延续的。而这一事物不是在乔西的心里面,而是在那些爱她的人的心里面。克拉拉放弃了取代乔西——虽然对她来说外在的一切模仿很容易做到,她也可以避免被遗弃,而永远成为乔西的替代而存在、生活。但她放弃了乔西母亲的这一提议,只是一心拯救乔西,而即使拯救的结果失败,她高尚无私的心灵也被加以证明。

克拉拉也许不是人类,但在人工智能有了情感后,其就值得被善待。他们的牺牲不应被视作理所当然,而石黑一雄毕竟还是温柔的,他让克拉拉在与经理的告别中自我发声:那对我而言就是最好的家。而乔西也是最好的少年。即使经由经理最后停留的目光,我们得到一种隐晦的暗示:克拉拉最后的归处会是被吊车带走,进行拆解。但尘归尘,土归土,旅程虽已结束,在爱中获得的幸福感会持久延续。

【本期话题】:你会对人工智能技术的发展产生恐惧吗?欢迎在评论区留言。

互联网小常识:在一些中高端交换机中,通常把交换表保存在CAM(content-addressable memory)中,可以通过交换机的show cam命令查看,大中型为show cam dynamic ,小型为show mac-address-table。

免责声明:本站所有信息均搜集自互联网,并不代表本站观点,本站不对其真实合法性负责。如有信息侵犯了您的权益,请告知,本站将立刻处理。联系QQ:1640731186