PDF下载
人工智能时代科技与伦理的争夺---以《黑镜:急转直下》为例

​吴玉荣

西北大学,陕西西安,710127

摘要: 《黑镜:急转直下》是一部以黑科技为题材的连续剧,讲述了人类在人工智能时代的生存状态、人类被科技异化所利用和社会被摧毁又重建的过程。该剧所呈现的技术所引发的道德问题有代表性的。在这些黑科技之下,每个案例都牵涉到人与自己、人与社会、人与人之间的道德关系。技术运用的种种缺陷,折射出人性的软弱和道德文明的歪曲。因此,在未来的技术发展中,人类与机器的关系,道德秩序的构建都值得我们深思。本论文以《黑镜:急转直下》为切入点,对技术的异化现象进行分析,来重新检视技术在人类发展过程中所遇到的各种矛盾和问题。
关键词: 科技;伦理;《黑镜:急转直下》
DOI:10.12721/ccn.2024.157053
基金资助:
文章地址:

随着航空飞机、人造卫星、载人航天器的出现,原本无人问津的太空,终于被人类所了解。科技的发明和运用,推动人类生活方式的巨大进步,生产方式的改变也极大地提升了生产效率。自动化生产、智能制造等技术的兴起,使企业的生产线更加高效、精准,不但降低人力成本,还提到了精准率。“中国天眼”,激光技术,克隆技术,基因提取技术,都已不再是神话了。科技已经成为人们工作和生活中最主要的工具和方法。但是,一旦我们将全部的信赖放在其身上,人们就很难摆脱它的掌控,变为科技的附庸。

《黑镜》(Black Mirror)正是一系列以黑科技为主题的单元剧,通过诸多黑科技故事表现黑科技时代人类的生存模式、科技对人性的利用、破坏与重构。在2011年度首映,迅速吸引了众多观众的目光,并在2017年度荣获英国电影及电视艺术奖的提名,以及艾美奖的最佳电视影片及最佳剧本。这些都是《黑镜》的成功之处。本论文选取《黑镜》其中的一集《急转直下》为个案,来探究由技术所引起的异常事件,从而折射出人类与自己,与传统,与社会之间的伦理价值取向。人性的软弱,伦理道德的歪曲,社会的漠视,这些都需要我们对人与机器、伦理秩序与技术应用之间的关系进行深刻的反思。

一、斗争:人工智能与伦理抉择

人类文明发展到现在,其存在的根本问题就是怎样认识自己,如何在人与其他身份之间做出选择。自从人类诞生之初,就从来没有区分过,早在巴比伦神话里,亚当和夏娃在伊甸园里像野兽一样,上山采摘野果,喝着山泉水。也就是他们偷食智慧树上的果实之后,才有了智慧和独立思考的能力,也开始认识到自己与世界上的其他生物有所不同。人之所以为人,在于理性和良知。人活在这样一个充满智慧的社会中,若是只凭本能不靠思考,早就被社会抛弃了。人类在作出第一次生物性选择之后,此后还经历了第二次的伦理选择,而社会的发展也让其产生第三次即科学选择,这一次次的选择都说明了人类文明进化的逻辑。科学技术本来只是人类认识世界、改造世界的最佳工具,但其发展异化逐渐出现了脱离人控制的情况,对人自身和人类社会造成了危害。 

在《急转直下》中,有一款评分系统录了这个世界的规则,而一个人的所有获得和失去都是根据评分来确定的,主人公蕾茜因为自身需要不得不在意他人给自己的评分,为了让所有一面之缘的陌生人都能给自己高分,她在每天离开家之前,会千方百计地训练自己的笑容。她因为担心被同事降分而拒绝帮助那些已经被降级处于低分的同事;然而她所做的一切都是为了得到娜奥米的伴娘邀请(来到一个高分世界维持自己高分形象进而获取便利),但是现在这个世界上的人都被技术控制了,每个人都带着不同的面具。结果,在去参加婚礼的途中,蕾茜发生了一系列恶劣不易的事情,让她的成绩一降到底,在一次次的挫折和不可能拿到更高的成绩的压力下,蕾茜终于崩溃了,最后也只能在监狱里展现最真实的自己。

人是一种善恶并存、有智慧理想的生物,理智的意志可以引导人去遏制邪恶,去维护秩序。可是,因为科技的存在,让人类的本性被蒙蔽、压制,致使无法辨别。当这个社会没有道德,没有对错的判断,权力就会被技术的享用着所掌控,这将是一个没有任何反抗和改变的单向社会。科技是一柄双刃剑,一方面为人们带来了方便,促进了社会的飞速发展,另一方面也会助长了人们的劣根性,扩大了人们对别人隐私的窥视。在“圆形监狱”系统的机制摄像头机制下,使每个人都处在“第三只眼”的视野中。《黑镜:急转直下》打分方式同样如此,就像是我们在日常生活中,会很随意的对食物、景点、衣服,甚至是服务进行打分一样。但是,如果打分的对象变成了个人,那么,就会造成社会的混乱。

弗朗西斯·福山曾谈道:“对我们而言,人类存在的最重要的意义,完全不是由于物质性设计,而正是人类所独有的全部情感,让人产生了生存意义、目标、方向、渴望、需求、欲望、恐惧、厌恶等意识,因此,这些才是人类价值的来源。”剧中蕾茜身边总是会出现一些与她所处的环境格格不入的角色,比如她哥哥,他对她主动去讨好娜奥米很不满意;比如生活在最底层但绝不愿意被人欺负的服务生;再如给了蕾茜四点六分的老货车司机,这些在现实中正常的角色都变成了“另类”,她们在物质上不能满足,但在精神世界可以发泄自己的情绪。由此,我们可以看到《黑镜》坚持的人文立场,以及对科技的无止境的质疑。科技不但渴望征服人类,改造自然,更渴望破坏社会的和谐,改造人类的人性,《一千五百万的价值》中的世界似乎也近在咫尺了。

二、挑战:科技困境与现实突围

科技的飞速发展,使世界与人类的联系更加紧密,人类与科技的关系也随之发生了变化。技术哲学家把道德纳入到技术发展和设计的视野,并把道德问题放在了解决道德问题上。隐私权、安全性和自治权的重要性与意义,而伦理也应当认识到科技本身就是科技的产物。荷兰技术思想家皮特-保罗·维贝克提出“道德物化”说,认为将道德标准植入到科技人造物中,将会对人类的道德行为进行判断、干预,并产生影响。在科技盛行的当下时代,对伦理道德的关注与探索则能帮助我们突破科技异化带来的现实困境。保持清醒,认清其所带来的赛博空间与真实世界,并寻找人与人工智能共存的平衡点是人类在网络媒介快速入侵时代的最大保护。

(一)制衡人工智能

有人工智能参与的社会发展中,科技自主参与程度使人这一道德主体地位受到了严峻挑战。科技的发展使智能机器占据了人的劳动岗位;从而让科技与人之间的道德关系受到冲击。科学界甚至都在担心,强大的人工智能会不会因此失去控制,将人类变成自己奴隶。但目前令人类欣慰的是,人工智能虽然基本替代了人的工作,但是它还没有独立的意识,还没有达到成为伦理和道德的主体。同时,人工智能最终作用结果,都来源于人类的善恶,以及人类对它的利用。所以,在研发人工智能的发展进程中,必须加强伦理学和道德学的建设。坚持以人为中心也应该是人工智能必须坚持研究和发展的重心。机械和工具的出现,就是为了减轻人力负担,提高生产效率。不管是对大自然的探索,还是对世界的改造,人工智能都应该是人类的助手,为人类服务,为社会创造价值,这应该是人工智能存在和发展的意义。

“人性是基础,正义是核心,责任是关键,这就是人工智能的发展。”如果说我们对人工智能进行道德抉择,那就是在维护它的“向善”的同时,也要利用它的“向善”发展。它所面临的挑战,可能远比我们手中的任何武器都要强大。如果科技被冠上了“邪恶”的标签,那么人类的文明将会被彻底摧毁。人工智能的善与恶,终归来自人的善与恶。真善美是人的终极追求,也是科技的终极追求。

(二)规范媒介伦理

要从媒体的桎梏和奴役中解脱出来,首先要做的就是唤醒人类自己的主体意识。互联网给我们的生活带来了巨大的便利,它突破了传统人际交往中的时间和空间的局限,在政治、经济和文化等领域都起到了积极的作用,在需要的时候,它甚至可以成为维护公正的桥梁。但是,网络媒介所编织的虚拟世界与真实世界有很大的不同,它拥有更多的诱惑性、娱乐性、不确定性等特征,这些特征更容易吸引人。在这个到处都是网络和科技的时代,人类能从什么地方看到真实的一切?网络道德和现实道德的根本不同之处在于,它更多地依靠个体的自我约束,而现实道德则受到法律的约束。

因此,要对道德秩序进行规制,就必须对媒体技术的规制、对媒体技术人员的控制和对社会道德进行规制。正如前面所说,媒体技术是一种中立的东西,它所呈现的利弊、善恶、真伪,都是由它的使用者所赋予的。媒体技术人员应该承担起自己的社会责任,成为时代的“代言人”,而不应该用代言人来扭曲价值观,破坏道德秩序。所以,传媒科技工作者的视野不应该只局限在科技本身,而应该把科技与人类、自然、社会所结合起来,把时代的发展和人类的未来作为使命,把媒体对政治、社会和文化的影响和塑造牢记于心。除提高媒体观众的自觉意识和提高媒体从业人员的职业道德水平外,还应制定相关的法律来保障媒体的职业道德。

三、渴望:伦理重建与人性回归

正是这部英国第四电视台与美国奈飞公司联手制作的连续剧,让我们人类看到媒体科技、人类欲望、工具理性、权力资本与市场逻辑等,在有形的现实与无形的未来中,对现代社会造成的分裂、焦虑与困惑。在这个高科技的时代,未来会呈现出以下特征:首先就是专制。从社会协调的观点来看,媒体可以上下传递感情,帮助决策者制定和执行政策,收集社会民意,还可以对政府的行为进行监督。媒体为民众提供了言论自由,这一点从某种意义上来说,是对民主的一种有益的。其次,就是虚拟世界。赛博空间是一个基于数据和信息的虚拟空间,赛博空间中的领域、地点、人物、甚至是情绪和意志,都是由信息构建而成,并不是由一个人和一个物体组成。

人类文明的产物包含了技术理性与伦理价值,同时也推动人类社会的发展进程,两者应在动态平衡中保持良好互动。而这个全新世界却在技术理性极尽发挥的过程中全然不顾伦理价值,对科技的过度依赖使其完全沦为技术理性的附庸,从而导致陷入技术的统摄中。技术合理性和道德价值既是人类文明的产物,又是促进人类社会迅速发展的两个重要力量,二者应该在动态的平衡中形成良性的互动关系。“新世界”则是将技术理性发挥到了极致,完全无视了道德价值,过分依靠科技,成为了技术理性的附庸,被彻底地控制在技术的掌控之中。事实上,科幻小说中的描写是一步一步地照应着现实生活。每一个个体都是社交网络中的一个结点,其本质就是两个或多个个体之间的价值匹配。人类却忽视了技术的剥夺,工业快速发展的背后,是对自然资源无节制的攫取,导致的结果就是千疮百孔的生态和日益恶化的环境;生物技术的滥用让原本自然的生命向着未知的方向发展;网络的出现更是绑架了生而为人最重要的品质——感情和思考,关于这一点,整天低头玩手机和凡事只会百度谷歌的我们没有丝毫反驳的底气。

参考文献

[1]聂珍钊.文学伦理学批评导论[M].北京:北京大学出版社,2014:32.

[2]聂珍钊.文学伦理学批评及其他——聂珍钊自选集[C].武汉:华中师范大学出版社,2012:17.

[3]舒琳.《黑镜·急转直下》中的媒介异化现象浅析[J].新闻传播,2021,(06):44-45.

[4]张潇.对后现代社会社交媒介“狂欢化”的批判性思考——以英剧《黑镜·急转直下》为视角[J].新媒体研究,2018,4(12):138-140.

[5]林帆.《黑镜》之镜:后人类困境之思[J].新楚文化,2022(06):46-49.

[6][美]赫伯特·马尔库塞.爱欲与文明[M].黄勇,薛民译.上海.译文出版社,2012..27.

[7]任锦康.格雷马斯理论视域下《黑镜》的叙事结构与主题意蕴——以《急转直下》为例[J].名家名作,2022(25):10-12.

[8]郭晓丹.面对黑镜:人工智能科幻影视剧中的“现实纹理”[J].电影评介,2020(15):25-29.

[9]余露淋.《黑镜》之《急转直下》篇——从规训的牢笼说起[J].大观(论坛),2019(10):127-128.

[10]吉莉扬洋.电视剧《黑镜》中的科技预言与人类自省[J].艺术评鉴,2019(06):163-164.

[11]童佳珺. 技术与身体:具身传播视角下的《黑镜》研究[D].华侨大学,2023.

[12]黄阳阳. 微英剧《黑镜》中的媒介异化研究[D].云南师范大学,2020.

[13]林亭君. 《黑镜》科技异化伦理研究[D].兰州大学,2023.

[14]张欣宇.科技映射下的人性阴暗面——以《黑镜》为例[J].大众文艺,2016(17):192-193.

[15]李婵. 《黑镜》:科技映出了内心阴暗[N]. 北京科技报,2012-05-28(048).

[16]李洪修,刘梦臻.人工智能时代劳动教育空间的价值意蕴与实践超越[J/OL].教育理论与践,2023(25):3-8[2023-09-01].