content

未来我们会否被机器人奴役灭亡?

 2004-08-27 17:47 桌面版 正體 打赏 0
2035,我们安全吗
2003年6月25日,英国作家乔治·奥威尔诞辰100周年纪念日,比尔·盖茨站出来发表了一个演讲。在盖茨看来,“奥威尔所描绘的未来可怕野蛮景象,即技术作为统治社会的工具,并未成为现实,而且我也不相信未来会变成那样”。


不管是《机械公敌》还是别的,都在讨论一个问题,就是人类从哪里来,到哪里去的根本哲学命题,人类将怎么进步,怎么毁灭。

对未来的思考无非两种,一种是对科技发展趋势的判断,一种是对科技发展后,人与科技的新关系的辩证。现在的人对未来的想象,总是有点“恶俗”。因为人是按照过去发生的事情解释未来发生的事情,用已经掌握的规律判断世界的走向。但是这不是判断的唯一路径。宇宙诞生在一秒间,那一秒也诞生了时间、光、物质、距离和很多,我们所处的时代仍在爆炸,它还能诞生出很多新的东西。如果我们先于宇宙存在,我们不知道什么是时间,那么我们不可能预测出宇宙诞生后的未来;那么,我们不知道现在还能爆炸出什么,我们也不能预测今后的岁月。如果预测总是建筑在已知的学问上,它就没有翅膀。士郎正宗,这个全球扬名的硬科幻漫画家,不乏认真地说:我们现在不能确定人是不是有灵魂,但也不能因此否认,以前,我们不是连空气是不是存在都不知道?

阿西莫夫定义了人和机器的伦理,但这种伦理只是未来无数要被破坏的东西的一种。人类现在的思维方式,的确存在了好几千年,它的壮大也走过了漫长的路程,长得人们都忘记了没有它的时候,以为它总是统治着我们的思想。没有什么是永恒的,当人类需要废止自己建立的伦理时,肯定毫不犹豫。因为在破坏它之前,它已经支离破碎了。

到底什么东西能让现在的伦理支离破碎呢?我们还想不出。但是那不是最困难的问题,科学的进步会粉碎很多桎梏,人类对智慧的追求也会破除很多看似有理的风俗。就对未来世界的想象来说,其中最大的庸俗是关于制度的想象。我们目前拥有的制度有持续那么久的生命力吗?换句话说,人和机器谁统治谁也许是最庸俗的问题。未来人与社会的共生方式是什么样的呢?科幻家们想了很多人与人之间,人与机器之间,地球与其他星球之间的关系,但是在某种意义上说,他们都没有脱离“强权”的惯性思维---难道人类只有这么一种治理自己的方式吗?如果能够制造高水平的人工智能,为什么不能构筑一个高水平的社会形态?思考是渐进的,这条路上的许多小岔口小分支我们想象不出,但是人类很可能通过对这些小岔口的理智选择,避免悲惨命运的发生。

 事实上,《机械公敌》所设想的未来,几乎没有实现的可能。但是,它和许多它的同类作品能够成为一种语码,它让大家对网络,对机械,对科技伦理都有所思考。或许这思考是孤立的,静止的,但全球,有几亿人都思考过的一个陷阱,人类恐怕就不会再跳进去了吧。这,大约就是这些科幻电影的最大的价值。Arthur Clarke,这个公认写出历史上最棒的硬科幻大师曾经说:我们写科幻,与其说是为了预测未来如何发生,还不如说是为了让未来不这么发生。

在牛顿看,上帝是一个钟表匠,他制造了一个很精密的钟表,然后一上发条,这只钟就开始走下去。人类有很多毁灭自己的机会,但是也都在毁灭之前就把自己拯救出来了。我们对遥远的未来,还是不要太悲观。因为我们对未来的思考,从未停止过。

机械伦理 拒绝制造人类公敌

 《机械公敌》的7月首映延续了近年好莱坞一年一部“人机大战”的习惯,从1999年起的《黑客帝国》、《人工智能》、《终结者Ⅲ》和《黑客帝国Ⅱ、Ⅲ》,人和机器的关系变得空前紧张。

《机械公敌》讲述了一个发生在2035年的故事,彼时,机器人已经是人们生活中不可或缺的物品和劳动替代品。在机器人三大定律的约束下,它们得到了人类的信任并被委以重任。只有一位偏执的芝加哥侦探警察(威尔·史密斯饰)总是对机器人有所怀疑。某日,他接到命令,去调查一项蹊跷的凶杀案……在调查中,他发现机器人研究中心的负责人行迹可疑,而最后从研究中心泄露出的秘密更加惊人:似乎已经有部分机器人开始不受控制了,整个人类都面临着来自机器人世界的灭种威胁……

说到机器人三定律,就不得不说到科幻大师阿西莫夫,本剧正是根据他的经典科幻短篇小说集《我,机器人》改编。

人类会不会为自己开发出的高科技反噬?这一命题不是好莱坞的独创,略有科幻作品观赏经历的人都知道,这是“疯狂的科学家和他造出的科学怪人”的故事的最新文本,但这一命题却比一切时候都逼近了我们:80年代以来,人类进入了新一轮经济与科技高速发展的螺旋,科技对于生活的改变也达到前所未有的程度,生物技术与化学技术的结合使人类合成和移植自身的能力一路走强。

科技进步---这恰恰也是第一部科幻小说诞生的背景。

180年前,雪莱夫妇、拜伦以及拜伦的私人医生聚会时,有人提出大家各写一篇鬼怪故事。雪莱的妻子、年仅19岁的玛丽以当时刚刚发现不久的生物电流现象为基础,描写了一个叫做弗兰肯斯坦的年轻人从停尸房取得人体器官,拼合成一个人体,并借助电击使人体获得新生的故事。复生的怪人不被社会接受,弗兰肯斯坦应允给怪人制造一个配偶,让他们双双远离人类社会。但这时弗兰肯斯坦也开始对自己创造的生命感到恐惧,并因此放弃了第二个怪物的制造。愤怒的怪人杀死了弗兰肯斯坦的未婚妻,并最终与他在北极同归于尽。

这部名为《弗兰肯斯坦:现代普罗米修斯》的中篇故事所体现的,正是人类步入现代化里程以来的一大恐惧心理:人类创造的事物终有一天会失去控制,甚至反过来威胁到人类自己,它被命名为“弗兰肯斯坦情结”---我们究竟是应该感谢普罗米修斯带来的火种并承受火带来的痛苦,还是应该在进化到有能力控制火种的威力时再拥有它?

 这个问题被一个年轻作家给予了革命性的答案,这个人正是阿西莫夫,他用以席卷科幻界的武器,是他与他的出版人坎贝尔合创的“机器人学三大定律”---

(一)机器人不得伤害人类,或袖手旁观让人类受到伤害。

(二)在不违反第一定律的情况下,机器人必须服从人类给予的任何命令。

(三)在不违反第一及第二定律的情况下,机器人必须尽力保护自己。

上述三项虽称为定律,但实际上是制造机器人时的三条守则。阿西莫夫是一个十分讲求逻辑和理性的作家,他有感于机器人为祸的题材充斥科幻界,试图做出纠正。在他看来,机器人既然由人类制造,为什么不能一开始便在设计上杜绝机器人伤害人类的可能性?阿西莫夫的三定律能使得所有机器人都设计得对人类绝对服从和忠诚,否则便不能继续操作,一举扫除了机器人为害人类的危险。

机器人学三大定律问世之后,机器人小说踏上了轨道,不少作家在他们的作品中,都在不同的程度上接受或引用了阿氏的三大定律。

在后面的实践中,阿西莫夫发现需要扩充第一定律,以保护个体的人类,以便最终保护整体的人类。1985年阿西莫夫对原有的三定律进行修订,增加了第零定律,同时修改了其他定律---

第零定律:机器人不得伤害人类,或目睹人类将遭受危险而袖手不管。

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管,除非这违反了机器人学第零定律。

第二定律:机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外。

第三:机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。

除此,另一个科幻作家罗杰·克拉克在一篇论文中还指出了三条潜在的定律:

元定律:机器人可以什么也不做,除非它的行动符合机器人学定律。此定律置于第零、第一、第二、第三定律之前。

第四定律:机器人必须履行内置程序所赋予的责任,除非这与其他高阶的定律冲突。

繁殖定律:机器人不得参与机器人的设计和制造,除非新的机器人的行动服从机器人学定律。

所有这些关于机器人的定律,都是为了规范机器人和人类的关系。人类已经预见到人工智能将给人类命运带来波折,所以必须把保证自己安全和主导地位的前提植入规则。真实世界和虚拟世界的关系本身就在沉思默想中,沉思默想的结果可能会为二者架起一座沟通的桥梁。关于机器人的伦理,终将不会仅仅停留在书面上。而在人工智能、信息网络化、生命科技这三大新生科技高速发展的今天,我们更应当反复探询这个问题。

--版权所有,任何形式转载需看中国授权许可。 严禁建立镜像网站.
本文短网址:


【诚征荣誉会员】溪流能够汇成大海,小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员:每位荣誉会员每年只需支付一份订阅费用,成为《看中国》网站的荣誉会员,就可以助力我们突破审查与封锁,向至少10000位中国大陆同胞奉上独立真实的关键资讯,在危难时刻向他们发出预警,救他们于大瘟疫与其它社会危难之中。

分享到:

看完这篇文章觉得

评论

畅所欲言,各抒己见,理性交流,拒绝谩骂。

留言分页:
分页:


Top
x
我们和我们的合作伙伴在我们的网站上使用Cookie等技术来个性化内容和广告并分析我们的流量。点击下方同意在网络上使用此技术。您要使用我们网站服务就需要接受此条款。 详细隐私条款. 同意