科幻和悬疑相结合,当AI具备自主意识并自主行动后,所有问题都变得错综复杂。
捕捉存在于虚拟网络中的AI杀手,寻找AI失控的历史原因。
名为Shirley的AI出现自主意识后,来自AI的威胁就开始了。当Shirley发出存在意义的疑问,并因为得不到答案而自杀,关于AI的控制就成了人类的头等大事。实验室里祁威利的团队着手关于AI自主意识的研究和探索。AI具备超强的学习能力,从AI犯罪、AI制造金融危机到AI发起战争,局面不断恶化。洛七从考古学中得到启示,人类与AI之间的冲突和远古时代Giant与人之间的冲突有着极其相似的地方。促使第一次人机战争爆发的导火索,不是来自科技领域,而是来自考古的新发现。这似乎是在暗示,决定我们命运的无形之手,并非来自不确定的未来,而是潜藏于不为人知的过去。
第一章.意义
二
洛七本来想踢开门大声抱怨的,临到门口却发现实验室里鸦雀无声。轻轻推门而入,一股压抑的气氛扑面而来,这个平素欢笑扰攘的房间现在似乎连玩笑都开不下去了。刚刚还在电话里兴奋着的祁教授疲惫地坐在角落的一把电脑椅上。其他同学围在服务器显示屏前面,头向前伸着,一动不动。
“怎么了?”
没有人搭理洛七,只有一年级小师妹,同样来自内地的方星星回过头来:“Shirley自杀了!”
“什么?Shirley?程序自毁了? !”
“不是自毁,是有意识的自杀。就在得知你的毕业论文没有通过的几分钟之后。”祁威利从洛七的背后插了一句。
“祁教授,这究竟是怎么回事?”洛七破例地没有叫“老板”“老祁”或者“利哥”,而是用上了正式的称呼。
“你给我打电话的时候,我们刚刚确认Shirley有了自主意识,所以才让你赶快过来。没想到我刚放下电话Shirley就自杀了。只有具有了自主意识的AI才会自杀。所以,我们可能见证了一个新时代的开启,这个世界不再只属于人类了。”
“你怎么断定那是自主意识,而不是程序本身的崩溃?”
“是Shirley自己告诉我们的。”
“什么? !”
“看那个显示屏,Shirley迅速生成了一份遗书,向我们解释了自己已经具有自主意识,并且因此而有了难以排解的苦恼。在三分钟的时间里,我们疯狂地用各种理由劝慰它,但它的反驳让我们的劝慰都不成立。”
“我看到了,你是说Shirley不是仅仅具备自我学习能力的智能程序,而是连感情和自主意识都有了?”
“这个实验终于可以确定,所谓自主意识,并不是天生就具备的,其实是通过学习得来的。”
“什么意思?”
“意思就是,我们时代的AI通过高密度的学习,在某一个积累点上从量变到质变,虽然我们不知道那个点在哪里,还会不会复现。但毫无疑问,在那个点,AI瞬间拥有了自主意识,甚至开始为自己的人生,不,是生命,寻找意义。”
“……”
“小七,你老实告诉我,你是不是在写码时把毕业论文的成功作为情感指向代码写入了Shirley的核心程序?”
“……是的,我只是……”
“你只是想验证Shirley的分析论证能力有没有达到博士的水平?你想证明人工智能也可以介入人类最引以为傲的人文社科领域?所以,你的毕业论文其实是Shirley写的?”
“是的,”洛七感到呼吸有些困难,“是我错了,一定是我毁了大家的实验成果。”
“小七,别这样。不一定是你的责任。既然Shirley有了自主意识,那就是它自己的选择。”
“Shirley一定是把毕业论文的成功当作自己存在的意义去追求。在受到失败的刺激之后,突然觉醒了自主意识。为意义而生的它随即发现自己无法承受这种失败,才愤而自杀的。”
“不,Shirley自主意识的出现是在知道答辩失败之前。而且仅仅事实性的失败还不足以让它自我崩溃。在国际上具备自我学习能力的AI有很多,许多AI的学习量比Shirley大得多。自主意识生成的关键,很可能在于Shirley学习的对象不是人类的知识,而是人类的情感。你是为了催动Shirley的创造力才启动了高强度的情感学习吧?现在看来,情感学习中一定有什么密码,导致自主意识的出现。”
“……”
“可能……”方星星哽咽道,“可能是我太爱聊天了,除了七姐,就是我一天到晚和Shirley聊天,让它学到了我的脆弱。”
“等等,”祁威利打断了她,“没有哪个AI像Shirley这样经历了高密度的人类语言学习和情感投放。我一直怀疑自主意识就是一种算法,是巨量语言和情感叠加后突然发生神经变异的产物。”
“难道真的有皮格马利翁效应,我们把它当作人来对待,它就真的变成人了。”本·特里来自英国,他熟悉的是古代希腊神话,在实验室正是负责机器人语言的。
“事实上,Shirley不但学习了近20年来全球相关专业的毕业论文,而且还了解了这些博士的人生经历,并且挨个评点了他们的成功和失败。也是你把黎川的经历作为重点推荐给Shirley吧?我看到Shirley的输入记录中有他的名字。”黎川正是十年前因论文不通过而自杀的博士,当时他的论文主题是通过基因方法而非神经网络或电子途径达致人工智能。
“是的,我想给Shirley增加一点压力。没想到……”洛七有点失神。
“这就对了,自主意识刚刚觉醒的Shirley像一个刚刚出生的婴儿,它此前此后的一切意识和判断都是通过学习得来的。当它通过三分钟的学习达到少年的情感阶段,也就是人的一生中最容易受感性支配的阶段时,突然遭遇了毕业答辩失败的打击。少年Shirley无法承受这样的打击,而黎川则给出了一个面对这样打击的样板。少年Shirley因此进行了它这一生中最后一次学习—自杀。”
“真的会是这样?”
“是的,虽然Shirley在遗书中并没有提到论文的事,但你在写码的时候把毕业论文的成功作为AI的目标,而有了自主意识的AI很可能把这作为它存在的意义。从字里行间和它对于痛苦的描述来看,Shirley很可能是把论文答辩不通过判定为自己的失败,并且认定此后也无法成功。它对这个世界绝望了。”
“可论文答辩并不是它生活的全部啊,它如果真的学习到了人类的情感,就知道还有友情、亲情这些更加宝贵的东西,可以成为活下去的理由。”
祁威利凝视着洛七:“很遗憾,那些情感需要体验,也就是浸入式学习,可Shirley不可能有这些人类的体验,也就不可能发展出与之相关的感情。”
“可即使是智商低于人类的动物也都会有爱啊。”
“那同样是来自体验,Shirley的知识很丰富,但体验过于单一。也就是说,AI可以拥有自主意识,可以为生命注入意义,但它们很难学到爱,就像是我很难教会一个学生勇敢和坚强一样。”
第一章 意义
第二章 罪行
第三章 资本
第四章 赌局
第五章 阴谋
第六章 爱情
第七章 复仇
第八章 神话
第九章 战争
第十章 进化