科幻电影中人工智能伦理意识探析
仪欣妍
【摘 要】被誉为中国首部硬科幻作品《流浪地球》在2019年春节上映后，口碑票房双丰收，在这部科幻电影中展现了超强的人工智能时代，贯穿电影《流浪地球》中的人工智能Moss，更是在很多细节中透视着人工智能未来发展的新趋势，引发了人们对人工智能的思考，人工智能的伦理意识是人类对人工智能的研究发展面临的最严峻问题。本文结合科幻电影《流浪地球》简要探析人工智能的伦理意识。
【关键词】科幻电影;人工智能;伦理意识;人类文明
中图分类号：J905? 文献标志码：A? ? ? ? ? ? ? 文章编号：1007-0125（2019）29-0093-02
科幻电影《流浪地球》中的人工智能，叫Moss，它是在影片背景下未来世界全球联合政府研究出的超级人工智能，也算是当世最高级别的人工智能。但是人工智能仍有缺陷，即过于理性。以电影《流浪地球》中的人工智能Moss来说，它的所有判断都基于计算的结果和预设的程序，包括在电影情节中切断通话、放弃地球，都是人们预设的程序，要求这个程序完成任务。所以，即使影片最后Moss没有叛变人类，它也存在过分理智的问题。
在电影《流浪地球》中，人工智能Moss作为整个领航员空间站的中枢控制系统，它的权限非常大，作为空间站的一部分，不仅控制着整个空间站的运作及其中的宇航员，甚至拥有空间站之外的权限，包括向全球发布广播、主动联系地球上的人员、联系世界联合政府，等等。可以说，是Moss在主导着“流浪地球计划”的进行，甚至当地球无可挽回时，它还背负着一个连空间站的宇航员这些真正的人类都不知道的用以延续人类文明的“火种计划”。Moss基于“使人类文明得以存续”的任务目标，在“地球最后的時刻”作出了选择，它选择放弃为地球领航，独自离开地球，将预先储存在空间站内的受精卵、动植物DNA、人类文明的影像、图片、文字等带去目标星系，这是它的“火种计划”，为人类文明留下最后的火种。而当联合政府和刘培强中校决定孤注一掷去拯救地球时，Moss相信自己的数据分析，以计算机的逻辑思考，努力阻止人类用毁灭“火种”的方式试图拯救地球，但都无济于事。Moss或许没有背叛人类，当然也没有分析错误，从它绝对理性的角度来看，保护空间站上所有生物、数据、资料，要比保护地球更容易，在当时的环境下也的确是更好、成功率更高的选择。但它终究还是过于理性，不能理解人类谓之为“希望”的东西，也不能理解人类哪怕孤注一掷也要奋力一搏与家园共进退的决心。人工智能没有情感，不相信希望，更不相信奇迹，因为程序的思维方式和它的计算中没有奇迹。同时，人工智能也缺乏很多人性中难能可贵的闪光点，包括无私奉献、舍己为人等，它们可能缺乏好奇心，缺乏取舍和判断，甚至有一些伦理问题连人类都尚未得出答案。而人类之所以存活到现在，都存在着奇迹与希望，人类的潜力是不可估量的，所以刘培强中校选择了毁灭Moss，放手一搏。也许Moss到最后也不明白，这种叫“希望”的东西，才是人类文明中，隐藏最深的“火种”。
人类谓之为“情感”的东西，使人类区别于人工智能和电脑，情感使人类不会时刻保持理性地去计算一切得失和可能，不会因为可能性极低而放弃尝试，这使得人类相信“奇迹”而去完成许多“不可能的任务”。但这种在人工智能逻辑中极低概率的星星之火，给了人类名为“希望”的宝藏，人类为了希望会去冒险，会去创新，会去不断努力，哪怕前路渺茫，这让人类最终成为了改变世界的种族。这是固守僵化逻辑的人工智能无法获得的能力，也是它们无法企及的高度。
有一点需要人们警醒，太多的人类正在不知不觉放弃情感。电影《机械姬》中就警示了这一点，人工智能没有情感，却又能利用人类的情感，是很可怕的一件事情。人类虽然担忧人工智能超智能的发展会导致“奇迹”湮灭，但生物趋利避害的本能使人类的社会规范走向了利己主义。也许只有当全人类站在一起，面对一个危害全人类的饕餮巨兽时，人类最原始的情感和“希望之火”才能重新被点燃。
“随着人工智能飞速发展，伦理问题也许会成为制约人工智能造福人类社会的巨大障碍，正确处理好人工智能应用中的伦理问题是人工智能治理的重大课题。”[1]霍金也曾说过，“未来人工智能可能会以生化战争或核子战争的方式摧毁人类。”其实在现在许多科幻题材的电影作品中，人类被其他人工智能或机器圈养甚至灭绝的话题屡见不鲜，比如电影《复仇者联盟》的奥创，原本钢铁侠想用这个高级的人工智能维护和平，但是这个高级的人工智能错误理解了和平的意义，认为世界如果没有人类也就没有了战争。人工智能即使能思考，但其价值观念和道德体系也不可能和人类的思维一样，也有可能作出不利于人类的引导。“一个超级聪明的人工智能可以非常好地实现它的目标，如果这些目标没有与我们人类一致，我们人类就麻烦了。”[2]人工智能如果发达到一定程度，一旦意识到自己和人类是不同的物种，它就会产生利己心，到那时就是人工智能和人类的斗争了，像科幻电影《2001天空漫游》《机械公敌》《机械姬》《黑客帝国》等都体现了人工智能智慧的问题，它一旦足够聪明，就有了野心，有了野心就是隐患。
人工智能在许多方面优于人类，无论是机械强度还是逻辑速度都是人类不可企及的，但是当未来人工智能为人类文明提供的服务越来越多，越来越全面时，人类自己去完成的工作就会越来越少，这对人类来说并非是好事。因为人类会沉溺于科技带来的享受和舒适中，进化论决定了人类一旦不需要劳动将会逐步将身体进化为另一种更适应思考而非劳动的状态，即“头脑发达，四肢简单”。动画片《哆啦A梦》剧场版有一集剧情中，人类被人工智能所取代，人类只能生活在氧气车里。而冷血的人工智能并不会在意其他物种的生死，这就很容易成为催化暴力和战争的存在。
综上所述，“未来人工智能技术会发展成何种境况还很难预测，但是想象天马行空的科幻电影给了我们一个很好的讨论视域和平台。”[3]如今，人工智能可以帮助人类去计算、去分析，帮助人类作出更理性、更有逻辑的决定，但作为人工智能，它始终区别人类的一点是，无法拥有人类的感性和血性，人类有感情，有喜怒哀乐，这是人类作为有血有肉的碳基生命区别于冰冷机器的所在。人工智能永远无法理解的一种情况，即人类在面对重大危难时，从人性深处迸发出的团结精神、牺牲精神，以及对希望的向往是独有的。而人类对人类文明的传承，也是必须身体力行的，就像电影《流浪地球》中提到的，没有人类的人类文明不能叫人类文明。除了人类已经创造出的能够留下痕迹的文明之外，作为人类这个生命体本身还拥有珍贵的感情，拥有希望与信念，拥有对未来的无所畏惧，以及为了希望放手一搏，这些被人工智能认为是人类不理智表现的“情绪化”行为，才是人类文明中真正发光的东西。
参考文献：
[1]聂磊.人工智能如何才能“健康发展”[J].上观新闻，2018.
[2]史蒂芬·霍金.对大问题的简明回答 [M].Bantam出版社，2018.
[3]马珊珊.焦明甲.欲望、理性与真实：科幻电影中的人工智能伦理问题[J].视听，2018.
