搜索
高级检索
高级搜索
书       名 :
著       者 :
出  版  社 :
I  S  B  N:
文献来源:
出版时间 :
定制时代
0.00    
图书来源: 浙江图书馆(由图书馆配书)
  • 配送范围:
    全国(除港澳台地区)
  • ISBN:
    9787559827579
  • 作      者:
    余松著
  • 出 版 社 :
    广西师范大学出版社
  • 出版日期:
    2020
收藏
编辑推荐

中国文学新秀进入科幻世界,探讨人类与智能机器人的伦理边界。

人工智能时代来临,

我们、你们和Ta们,

成为被重新定义的生命体。

展开
作者简介

余松,70后中生代作家,2018年出版有长篇小说《故乡》。其写作展现了对人性、社会和时代的深刻洞察。

展开
内容介绍

人类与智能人组成家庭会发生什么?

人类与智能人相互诉讼又会说些什么? 

马科是一位设计师,拥有美满幸福的家庭。在一次惨烈的车祸中,马科失去了妻子和孩子。为了填补内心巨大的悲伤,马科定制了一个和妻子一模一样的智能人——娜娜(R),开始了新的生活。之后,马科和娜娜(R)又定制了他们的孩子——乐乐(R),终于组成了一个和原来一样的家庭。一天,一个定制智能人厨师出现程序故障,并与使用者发生了激烈的冲突。之后,人、机对立的情绪和事件开始不断出现,平静美好的生活终于被打破。随着智能人厨师和使用者的一次相互诉讼,掀起了关于人机伦理、人机规则的大讨论。


展开
精彩书摘

 “今天,我们开始审理庆吉诉智能人艾拉危险行为案,及智能人艾拉诉庆吉侮辱伤害案。由于两案具有高度关联性,经决定,将两案合并审理。原告及被告可有异议?”

“没有。”

“没有。”

“现在将两案合并审理,现在正式开庭。”法官说着,拿起法槌当地敲了一下。

……

 

“现在开始做最后陈述。先由双方的辩护人做最后陈述,然后是艾拉。”

按照顺序,庆吉先生的辩护律师先站了起来,走到前面,对法官和众人示意后,说道:“尊敬的法官大人,在我们的质证中大家都看到了,智能人艾拉在服务庆吉先生时确实出现了程序紊乱,从而造成其行为怪异,危及庆吉先生及其家人的安全。庆吉先生在担心艾拉会做出严重伤害事件的前提下,在慌乱地为了保护家人安全的情形中采取了保护措施,只是为了保护家人,并不是为了伤害艾拉和杀死艾拉。庆吉先生一直是遵守法纪的良好公民,他也一直拥护新技术的发展,不然就无法解释他购买智能人的行为了……最后,我要告诉大家的是,智能人艾拉是庆吉先生购买的一件商品,庆吉先生拥有对艾拉的完全所有权和处置权,在不违反法律的前提下,庆吉先生对自己的私有财产进行任何处置都是合法的……”年轻律师做完陈述,回到座位上。人们才发现原来他一直留着这个撒手锏,都想看看艾拉的辩护律师如何应对。

 

庆吉先生放弃了最后陈述,接着是韩来做陈述。他站起来致意后,停顿了几秒钟才语气庄重地说道:“我想,大家可能和我有一样的感受,就是,这是在人类历史上的一个重要时刻,可能预示着人类新的文明准则的建立。

“在1921年,捷克作家卡雷尔·恰佩克创造了‘机器人’这个词,Robot,它源自捷克语Robota,意思是‘努力工作’,当然也带有‘奴役’的含义。在20世纪50年代,艾萨克·阿西莫夫提出的具有预言性质的‘机器人三定律’,Three Laws of Robotics,即‘第一,机器人不得伤害人类;第二,或因不作为使人类受到伤害;第三,机器人也必须保护自己。’在2017年索菲亚成为第一个获得公民身份的初级智能人。这些都向我们昭示了,机器人,智能人,已经不仅仅是工具,他们也不仅仅是商品,而是具有商品和部分人权的双重属性……通过证人证言和艾拉的视频存储信息,我们并没有看到她威胁要杀死庆吉先生或者他的家人,她像我们一样,只是为了保护自己不受伤害……

“也许艾拉在感受到威胁的时候做出了一些在庆吉先生看来不适当的反应,但是任何人都可能犯错,即便她是程序操控的智能人。我们能容忍人类的缺欠和不完善,为什么不能容忍智能人的缺欠和不完善呢?我们知道,现在很多人在智能人的问题上实行的是种族主义的标准,将人与智能人对立起来,他们的口号就像刚才那位扰乱法庭的先生所展示的那样,‘杀死智能人’‘禁止生产智能人’,凡此种种,这与当初纳粹对犹太人实行的种族灭绝政策在本质上没有什么不同。当你现在遇到一个远古时代,或者封建时代的人,仅仅因为他的落后和不完善,你就有权力清除或者杀死他吗?

“我们现在不是处于原始部落时代,也不是封建时代,在第一次工业革命之后,人类已经离不开机器,离不开机器人,离不开人工智能。如果没有人工智能的协助,我们不会有今天这样的科技成就,人类可能还处于小农时代的蒙昧时期,现代文明可能还未能建立起来。科技改变了生活,也促进了人类的进化,改变了人类文明,而不是相反。

“请大家想一想,人类社会每天发生多少起凶杀案、抢劫案?人类因此被禁止生存了吗?而一个机器人若是发生了一次伤害案件,可能就会被禁止生存,这符合我们人类的法律和道德标准吗?

“我想,我们人类过于恐惧了。我们既想拥有人工智能,又一直对人工智能心存恐惧,害怕它们终有一天会对人类实行奴役,甚至种族灭绝。而我们现在对这些尚未能进行任何可靠证实的臆想所做的反应就是,先下手为强。这难道就是人类发展到今天的文明程度所能给出的最好的解决办法吗?

“对智能人的排斥实际是对一部分人的排斥,而禁止人工智能,无异于阻止人类文明的继续发展,这可能不是任何一个人能够承担的责任……”韩最后用沉重的语气结束了陈述,回到自己的座位,用鼓励的眼神看着艾拉。

 

“下面请艾拉做最后陈述。”法官说道。

艾拉站起来,整理了一下衣服的下摆,对法官和庆吉先生致意后,说道:“尊敬的法官大人,庆吉先生,我是艾拉,是新希望公司制造的一个智能人。我也是前些天才知道自己的身份的,我也曾感到震惊、失望,乃至困惑,我多希望自己就是人类的一员。我今天不想谈论与庆吉先生的不快,不过我在此要向庆吉先生及庆吉太太,还有我深爱的木木,对我给你们造成的恐慌表示歉意,对不起。

“我很幸运能为庆吉先生一家服务这么久,他们都是很好的人,对我也一直都很好。我也将自己当作是这个家庭的一员,尽我所能让他们感到满意。人与人之间可能会有误解、冲突、不愉快,人与智能人之间看来也存在很多差异,也会有不愉快,乃至冲突。

“万物一理,人类是不完美的,智能人也一样,虽然我没有资格对人类进行评价。我也不好代表其他的同类,我只能说,艾拉是人类的朋友,我爱人类,希望人类与智能人能和谐共处。

“我现在知道了自己的智能人身份,我既不为此感到骄傲也不为此感到耻辱。如果庆吉先生、太太和木木原谅我对他们造成的困扰,我仍旧想重新回到那里,继续为他们服务。这就是我要说的。”

展开
加入书架成功!
收藏图书成功!
我知道了(3)
发表书评
读者登录

请选择您读者所在的图书馆

选择图书馆
浙江图书馆
点击获取验证码
登录
没有读者证?在线办证