学术论文投稿/征稿

欢迎您!请

登录 注册

手机学刊吧

学刊吧移动端二维码

微信关注

学刊吧微信公众号二维码
关于我们
首页 > 学术论文库 > 艺术论文 人类意志之殇——《少数派报告》中的科技伦理与选择困境论文

人类意志之殇——《少数派报告》中的科技伦理与选择困境论文

11

2024-05-29 15:12:11    来源:    作者:liangnanxi

摘要:美国科幻小说家菲利普·迪克的作品《少数派报告》描绘了在科技高度发展的未来,当局利用科学技术与赛博人类“先知”构建起一套能够预知未来犯罪的系统。本文从文学伦理学理论视角切入,剖析了小说中科技实践所引发的多重伦理问题,包括“未来罪犯”一词所隐含的伦理困境,科技至上主义社会下的道德危机,与赛博格的伦理身份诉求。

  美国科幻小说家菲利普·迪克的作品《少数派报告》描绘了在科技高度发展的未来,当局利用科学技术与赛博人类“先知”构建起一套能够预知未来犯罪的系统。本文从文学伦理学理论视角切入,剖析了小说中科技实践所引发的多重伦理问题,包括“未来罪犯”一词所隐含的伦理困境,科技至上主义社会下的道德危机,与赛博格的伦理身份诉求。

  近年来,预测技术已经成为社会生活中的强势存在。作为科技发展的产物,各类预测系统在大数据以及算法等科技的支持下,影响着社会决策的方方面面。在预测科技引发的讨论中,美国科幻作家菲利普·迪克代表作《少数派报告》揭示了预测科技无节制渗透人类社会产生的忧患。在小说中,预测技术已经占据了刑侦犯罪领域的绝对话语权,现行的犯罪预测系统利用科学技术与3个赛博人类“先知”(Pre-Cogs)搜寻潜在罪犯,在他们犯罪之前将其逮捕。在《少数派报告》的社会中,预测结果被当作无可争议的事实,人们因为还未犯下的罪行而获刑。通过构建这样的反乌托邦世界,《少数派报告》蕴含了对人与机器关系、科技时代之下的人性、赛博人类身份认同等新纪元伦理问题的反思。

  在文学伦理学批评理论指导下,本文的论证将通过三个部分展开:首先,文章将从伦理层面厘清犯罪预测系统的潜在风险,并剖析这些风险形成的原因与在文中的体现;第二部分则将分析归纳科技至上主义社会之下产生的道德危机,并说明科技暴政是如何一步步使人类失去自身意志,让渡自主权的;第三部分将聚焦于先知的伦理身份之争,展开对于他们的身份认同的探讨以及对于赛博格人类伦理的关怀和思考。

人类意志之殇——《少数派报告》中的科技伦理与选择困境论文

  犯罪预测系统的伦理困境

  针对小说中所描绘的犯罪预测系统,最大的争议点莫过于抓捕并惩罚还未犯下罪行的“罪人”。脑海中出现“犯罪想法”,这是人性暗面的展现。在文学伦理学中,冲动被称为“一种感情脱离理性控制的心理现象,主要依靠本能推动,带有强烈的情绪色彩”。这些犯罪的冲动在人类本欲占据上风时在脑海中浮现,并可能成为最终酿成恶果的直接引火索。但在犯罪行为尚未落地之时,人们尚有进行伦理选择、善恶辨别的能力,避免自己犯下大错。伦理选择指的是人择善弃恶而做一个有道德的人的途径,而理性意志也可以在伦理选择的过程中与人类的自然意志与自由意志进行博弈,牵制住已经偏倚的思维轨道。犯罪预测系统收集可能导致一个人犯罪的各项指征,并将其作为定论来推演出人们被冲动支配实施犯罪的未来,这忽视了人类理性意志的存在与进行伦理选择的能力,是对人类自主性的否定。

  在《少数派报告》中,主人公安德顿从被判定为“未来罪犯”到最后做出意想不到决定的过程就体现出了由人本欲驱动的非理性意志与伦理选择驱动的理性意志之间的角力。作为犯罪预测系统的主管,安德顿在一次意外中得知他被预测将在一周后谋杀一名男子,而得知这一消息的安德顿本能将机器翻遍,清除掉对他不利的数据。在这一阶段中,非理性意志主导了他的思维走向,使其试图以一种违背道德的方式换取自己的清白。然而,安德顿自身的道德感与伦理意识也被这一越轨思想所激发:在经过思考后,安德顿踏上了逃亡之路,决心在一周后用事实证明自己并不会犯下罪行。在犯罪预测的世界中,逃罪反而成为了违背法律但合乎伦理的行为,因为认罪被捕将使安德顿永远失去自证清白的机会,而只有逃罪才能赋予其做出伦理选择的权力,让他证明自己在一周后并不会成为凶手。主人公拼命在预言和被捕的时间空当逃窜,就是希望新情况会在这之间产生。在这一重伦理困境中,安德顿遵循了理性意志与伦理选择的指引,修正了自己原先的冲动思想行为。

  随着故事的持续发展,安德顿遇到了另一重伦理困境。在调查过程中,安德顿发现预言中自己要谋杀的对象其实是试图挑起政变的反动派将军。在保全自身清白与使国家免受内战的折磨两者之中,安德顿选择了后者。随着扳机扣下,安德顿将被判处无期徒刑,但同时也换取了国家与亲友的安全,这便是他根据自己的道德立场与伦理价值观,在此种难以两全的伦理悖论下做出的最终选择。即便他最后的行为结果与最初的预言相符,其行为动机与考量既不符合多数派报告也不与少数派报告吻合,仍能归为在自身道德立场与判断下做出的伦理选择。

  由此可以看出,安德顿做出的行为都是在人类所特有的伦理选择影响下产生的。然而,犯罪预测系统作为科学选择的产物,并不能监测到人类思想斗争中持续存在的伦理因素,永远无法做出完全准确的预测。

  科技至上主义社会的道德危机

  在《少数派报告》中,犯罪预测系统的发展延续是建立在对公民生活无孔不入的监控与分析之上的。人们处于科技的全景监狱之下,每个人的隐私信息早已变成了数据,是一种可以被警局、交通运输部、商业广场等利用的资源。小说中的诸多情节都显示出在这个未来世界中,观察行为与被观察体验的普遍性:安德顿的逃罪行动难上加难是因为所有的运输系统都处于监视之下,脑电波与指纹信息都被纳入系统,用于维持社会对公民的监察。小说中为维系这一系统自愿牺牲个人信息数据的“零犯罪”社会是科技奴化的隐射,暗藏着多种伦理与道德层面的危机。

  首先,科技暴政的一大潜在风险就是向现实中的人施加的非人化影响。在科技至上主义社会中,一个人需要通过自己的数字分身来被认证和评估,这本身就是一种颠覆。而正因为人被看作可被预估与调控的数据而非是有自主性的,公众对他人的伦理责任也随之淡化,能更心安理得推卸自己对“少数群体”的伦理责任——他们学会了忽视“未来罪犯”作为被剥夺解释权与选择权的人类的一面,而仅仅将他们看作是社会这个大系统中需要除去的变量与不稳定数据。

  其次,关于科技至上主义的另一个常见迷思就是它的所谓客观性。在此引导下,人们越来越倾向于将科技与道德考量解绑,因为它不偏向任何一方,不会出现伦理问题与非道德行为。人类将更多自身社会行为的解释权与裁定权主动让渡给这样一个“公平机制”,对其给出的结果也不假思索地接受,因为他们已经默认这些结果中不会有违背道德原则的偏见与私心。在小说中,人们对于犯罪预测系统的判决有着超乎寻常的信任感,安德顿的妻子几乎是立即就接受了系统对于自己丈夫的指控:“这张卡片说的肯定是真的。埃德并没有要陷害你,也不会有人在陷害你”。然而,科技从来不是凭空出现的——它以数字与代码的形式呈现,因此很容易忽视在背后影响它运作的人。在小说中,犯罪预测系统一天会产出数个名字,而负责最后筛查的仍是人类操作员:“看看有哪些名字是我们感兴趣的……使用你自己的判断力”。而无论是系统中被隐藏的少数派报告,还是犯罪预测系统笨拙、呆滞的“先知”,都讽刺了将科技与客观画上等号的做法。而在现实中,以男性为主的编码员在编写代码时可能会忽略女性样本,面部识别技术在识别黑皮肤的面孔方面仍存在缺陷。由此可见,科技从根本上来说便无法完全摆脱人类的介入。然而在科技的外衣下,偏见与歧视得以被弱化为计算机程序中的选择序列,无视其应该承担的伦理责任。

人类意志之殇——《少数派报告》中的科技伦理与选择困境论文

  “先知”的伦理身份之辨

  小说中,3个有预知未来犯罪能力的赛博人“先知”是犯罪预测系统的核心。本文认为迪克将“先知”设定为半人半机器的赛博格(Cyborg)使其身份复杂化,反映了迪克对于科技干预身体的忧患思考。

  美国著名学者唐娜·哈拉维对于赛博格的定义为机器与人类的混合体,“是想象力与物质现实的浓缩形象”。小说中,“先知”们的第一次出场就显现了明晰的人机交互的特征:“在一片阴沉的暗影中,痴呆呆地坐着那三个先知……每一句不连贯的话,每一个随机的音节,都经过分析比较,转换成可视符号,转录到传统的打孔卡片上,最后送进带有不同编码的文件槽里。”

  因为具有能预知未来犯罪的潜意识,各种传感器与数据分析装置侵入了“先知”的人类躯体,探知着其中含有的关于未来犯罪的讯息,而正是这样的赛博格形象,造就了他们的伦理身份的混乱。

  因为非人非机器人的含混身份状态,先知首先被剥夺了作为人的伦理身份。其一,科技强制对“先知”进行脑内侵入,损害了其作为正常人类思考的能力。大脑是“先知”产出未来犯罪预言潜意识的重要器官,也是科技装置侵入的对象。这些脑接口的存在也让“先知”的赛博格形象变得更为特殊,因为不同于对人体其他部位的增强,当一个人的意识被人类与机器的融合而改变时,代表着一个人根本的性质也因为人类与机器精神功能上的联系而改变。而在文学伦理学意义上,“脑文本”是人体特有的“一种特殊的生物形态,是人的大脑以记忆形式保存的对事物的感知和认识”。科技通过脑接口对于“先知”的脑文本进行摄取,严重干扰了他们作为人进行独立思考的能力,使他们变成了没有精神需求的植物人,认知持续处于混沌状态,从根本上剥夺成为道德伦理主体的可能性。其二,“先知”同样也失去了被社会当作道德伦理主体看待的可能性。犯罪预测中心利用赛博格人类的含混身份来为其囚禁、控制与非人虐待行径正名,而社会也正是因这一含混的伦理身份对“先知”的待遇缺乏同理心,因为他们潜意识里拒绝使用人类的伦理道德标准去评判“先知”的境遇。

  另一方面,“先知”又被赋予了一个具有神圣性质、权威超越常人的伦理身份。在犯罪预测系统中,为了确保“先知”对人类犯罪行为拥有优先解释权并维护预测结果,他们传达给大众的形象必须是超越人类能力与视野、可以与神话宗教中的神明相比拟的形象。《少数派报告》中的“先知”作为技术先知观察着社会中的每一个个体人类,以自己下达的“神谕”改变着无数个体命运,建构了未来世界人机结合下产生的一种新的先知身份——那就是模糊了技术与神性之间的界限,将机器人与人工智能与神圣特质联系起来的赛博格“先知”。

  “先知”的双重身份之间看似冲突,但却揭示了赛博格伦理身份所蕴含的双重脆弱性。一旦“先知”被政府制约,那他们就成为完美实施社会控制的政治工具——权力机构既可以利用他们超越人类能力的部分降低大众对于犯罪预测系统的质疑,又可以在他们非人类身份的灰色领域进行非人道的控制,在维持对赛博格工具掌控的同时逃避道德非难。

  《少数派报告》的现实离我们并不遥远。近年来,预知治安已在多地试点实践,加州圣塔克拉拉大学开发的PredPol就在美国和英国都有应用,使用该系统的警察部门会得到一份城市电子地图,上面标明一天中预测会发生犯罪的区域;而由马斯克推动的Neuralink试图通过侵入式脑接口平台实现人脑与计算机的直接信息交换,该项目正在积极寻求FDA的人体临床试验批准。然而,我们真的能够避免预测对于我们自身的反噬吗?机器体的侵入代价是否是人类主体性的消亡?在《少数派报告》中,无论是犯罪预测系统的多重伦理困境,还是“先知”因伦理道德身份混乱而遭受的非道德对待,都让我们思考预测技术、人机结合乃至于科技本身对于人类意志以及伦理道德规范的颠覆。在当下与未来,社会亟需提高对于技术泛滥的警惕,加强人们对于新兴科技的批判性认识,以及重申将伦理考量纳入科技议题的重要性。