温德尔•瓦拉赫（Wendell Wallach），耶鲁大学生物伦理学跨学科中心的主管、伦理学家和知名学者，与人合作出版有《道德机器：教机器人分辨对错》。

所谓科技思维不是能读懂多少新兴科技名词，而是能够对科技进行立体的思考与辨识。 

智能机器将会造成越来越多的人失业？

为什么有科学家说第1台超智能机器将是人类的最后一项发明？

我们谈论“转基因”时，为什么专家和大众不在一个频道上？

我们是否应该将决策权交给机器？

如何监控许少数团体发起的可能危及所有人的研究？

3D打印带来便利的同时潜在的社会风险是什么？

如何制订机器人的道德准则？

当我们谈起科技时，我们应如何思考？

我们生活在技术潜力超乎寻常的年代。从纳米技术到合成有机物，新技术带给人类翻天覆地的变化。技术的潜力令人惊叹也令人畏惧。无人机和新的智能手机一样可能轻而易举引爆炸弹，3D打印既可以制作工具也可以制作枪支。超级计算机能轻松管理个人档案也能易如反掌导致华尔街崩溃。

但是新技术无法回答如何解决这些技术所引发的道德问题和投资风险。作为未来科技领域  的道德和伦理研究者，瓦拉赫在《科技失控》一书中，探讨了作为技术的发明生产者和消费者如何应对飞速的技术发展所带来的道德模糊问题。

毫无疑问，科学研究和创新是希望和生产力的源泉，但正如瓦拉赫所言，技术的不断发展可能逐渐成为一股脱离人类控制的强大力量。某些人、机构或是某些价值观反对对新兴技术比如自动化机器人或是要求进行有意义的监管，《科技失控》对这些情况进行了深入分析，提出了如何掌控技术，重掌人类命运的建议。

读懂科技将带来什么，我们才能更好地掌控自己的未来！

智能机器将是人类的最后一项发明？

计算机的处理能力随着时间推移大幅提升。某些理论认为这是技术发展整体加速的其中一个表现，并将不可避免地带来人类命运的激进变化。按照这种观点，人类似乎朝着一个转折点前进，未来要么属于机器或超人类或是整个加速过程因不可持续而崩溃。不管是哪种结果都是灾难性的。至少这样的一个转折点是破坏性的。或许有可能正如很多预言师所相信的那样，造成未来世界与过去的一切完全没有连贯性。

摩尔定律和智慧爆炸这两种理论是目前老生常谈的一种看法的核心所在，即认为科学发现的速度在不断加快，并将走向一个彻底改变世界的转折点。两种理论的出现都是因为对于计算机影响日益扩大的思考，二者都是在1965年发表的。戈登•摩尔（Gordon E. Moore）是英特尔公司的创办人之一，他观察到自1958年集成电路发明以来，集成电路上的晶体管数量每两年（后更改为18个月）翻一倍。

数学家古德（I.J. Good）在1965年发表了一篇题为《有关第一台超智能机器的猜想》的文章中，预测计算机将从各方面都超过人类的智慧能力。超智能机器的一个显著特点是具备制造出更好机器的能力 。它们的出现会引发“智慧爆炸”，机器将设计出更智能的计算机，它们的进化将远远超出人类的智慧。古德写下了一句非常著名的话：“第一台超智能机器将是人类的最后一项发明。”

15年以后，另一位数学家，同时也是一位享有盛誉的科幻小说家弗诺•文奇（Vernor Vinge）虚构了一个小说情节，背景是刚刚发生智慧爆炸后的世界。文奇认识到超智能奇迹能从很多方面改变生命和文化，以至于无法完全想象未来世界的样子。文奇用一个数学和自然科学使用的术语将人类历史的这个转折点定义为技术奇点。

那些相信这个故事情节的人有两个核心问题要问：技术奇点什么时候发生？它会使人类受益还是威胁人类生存？目前这个阶段，没人可以给出答案，但是年轻专家和有经验的科学家对这个问题思考了很久，并在想办法如何确保未来超智能计算机对人类“友好”。

有关技术奇点何时到来的讨论非常热烈，一些理论家预测将在最近的将来发生（150或100年后），另外有些人认为很遥远或根本不可能。雷•库兹韦尔（Ray Kurzweil）是一位投资家和作家，其代表性观点认为技术奇点在近期将会发生，他预测计算机将在2028—2030年前后展示出人类水平的智慧，奇点将接踵而至。

对于技术奇点不可避免到来的这一趋势持批评意见的人，并不认为能开展各项任务的计算机构成智能机器。当然，计算机在某些方面已经超出了人类的能力，比如解决数学计算、模拟复杂系统、搜索大型数据库发现片断信息之间的联系等。

但是，人类智力的某些层面仍是当今计算机无能为力或难以企及的。计算机甚至不具备分辨真实环境中重要信息和非重要信息的基本能力。计算机系统不具备人类的学习能力，缺乏情感智慧，道德智慧以及意识。但是有很多的理论是关于如何通过计算机实现这些能力，也有相当多的理论解释为什么计算机永远不会具备这些能力。

乔治•华盛顿（George Washington）大学教授威廉•哈莱尔（William Halal）发起了技术调查，在其中他采访了一些知名专家关于各种技术事件什么时候会发生。他注意到在这些预测中，最乐观的专家和最悲观的专家总是针锋相对。27位专家认同技术奇点存在。他们被问及是否同意这样的说法，即“智能机器将超越人类并造成破坏”。在27名专家之中，45%同意这个观点。对于那些既同意也不同意的人，对自己观点正确与否的自信程度平均为63%。

就像流行音乐有经典老歌一样，各种领域的学术研究也有一些几十年来反复被阅读和引述的经典文章。在计算机科学领域，其中的两篇“经典之作”涉及对计算机智能进行评价的文章。

第一篇是阿兰•图灵（Alan Turing）所写，他是计算机科学的奠基人之一，二战期间率领团队破解了纳粹军队的密码。图灵在1950年一篇名为《计算机和智能》的文章开头写下令人难忘的一句话：“机器能思考吗？”要知道，当时对于人工智能尚无明确定义。

图灵提出用一个测试将人类对这个问题的反应来与机器对此的反应进行对比。提问者不能直接面对被提问的人，而是通过文字信息的方式来沟通。如果提问者仅仅根据二者的回答无法区分到底是计算机还是人类的答案，那么图灵建议必须认为智能机器是能够思考的。图灵称他的思考试验为一个模仿游戏，现在人们通常称这种试验为“图灵测试”。

虽然很多人批评图灵测试不足以作为衡量人工智能的标杆，但是没人有更好的提议。有一种批评意见认为一个非常聪明的机器人可能会装糊涂，假装很傻地回答以欺骗专家，否则的话专家会知道它比人类了解的知识还多。

对于图灵测试最有意思的批评是关于人工智能的第二篇“经典老歌”。1980年哲学家约翰•西尔勒（John Searle）发表了《思想、大脑、计划》的文章，认为即使计算机像人类一样答出了专家的问题，也不能代表它知道自己在做什么。他用了一个“中文房间”的思维试验来说明自己的观点。

想象自己在一个房间里，里面是计算机所能获取的所有关于中国语言的资料，人和机器都获得充分的时间去学习掌握这些资料，然后让计算机回答一个中国人提出的问题，西尔勒推测他自己能够根据翻译材料给出正确的答案，虽然，他并不是真的懂中文，由此可以相信计算机也可以在同样不懂符号含义的情况下给出正确答案。

西尔勒企图说明的是，从形式上掌握中文符号和充分理解中文意思是不同的。他的思考试验想要证明，操纵符号的计算机并不了解这些符号的意思，对符号的操纵不等于语意理解。

西尔勒认为他提出的是一个常识性的简单观点。但让他感到奇怪的是，“中文房间”的论点引起了无穷无尽的讨论。很多人则认为用于计算机工程的思维模型不足以生产出具备理解和意识能力的机器。

我对于人工智能导致技术奇点（通常也称之为超智能的到来）的研究前景持友好的怀疑态度。我对于无所不能的工程精神也持友好的态度，他们提议制造具有通用智能的机器，以便开展各种任务。但我非常怀疑我们是否对智能或意识的本性有足够多的了解，以至于能将其完全复制在芯片或其他材料里。

生物系统中某些人类智力特质是我们无法理解的，所需要的科学灼见也是现阶段我们尚未具备的。人类思想与身体的融合，以及对于外界环境改变所做的适应性反应及韧性，是很难通过非生物的方式加以复制的。

有人认为，将人类的脑力和先进的人工智能形式结合起来的超智能终将问世。某种程度上说，我认为这样的观点更实际些。但是，认为人和机器的能力相结合会带来智能爆炸或是技术奇点的观点仍然说得过去但不太可能。

当然，信息技术将产生新的思想种类，放大或取代人的思想去从事很多任务。虽然我对未来50~100年会发生技术奇点仍然持有怀疑，但是未来200年后是否会发生技术奇点，我无从判断。但是时间越长，机会越多，可以确保超智能机器人对人类和人类的价值观友好。认为科学家肯定终有一天会发现制造此类机器人或实现人类进化当然不是愚蠢的。但是，这很大程度上取决于在20年、200年还是1000年以后实现。

2009年，一群计算机专家举行会议，反思人工智能研究在社会层面上所取得的进步，他们对于智能爆炸和即将到来的奇点表示怀疑。仅仅5年之后，这次会议的联席主席巴特•塞尔曼（Bart Selman）认为，因为最近在感知和机器学习方面取得的突破，在大部分人工智能研究人员的心目中，超智能的可能性正在上升。

超智能的可能性受到了极大的关注，特别是一些著名人物，比如宇宙学家斯蒂芬•霍金(Stephen Hawking）、特斯拉的创立人伊隆•马斯克（Elon Musk），他们认为人工智能的研究将对人类造成严重威胁。

有时候这种对于未来的消极担忧某种程度上转移了人们对于解决当下更为紧要的问题的注意力。但是，技术奇点可以作为人类无法自我掌控命运的象征。对于技术奇点的关注可以提醒商界领袖更加重视这个问题，人类发明的技术如何迈出了最初的几步，直至迫使人类交出控制权，从这个角度说来，技术奇点倒也是有用的。

第一章 谁真正掌控我们的未来

技术风暴

转折点

航向修正

必然、不安和沉默

进攻计划

第二章 预测

难以预知的危机

对未知的恐惧

第三章 越来越复杂

复杂系统和混沌系统

复杂意味着更容易出问题

复杂的技术系统

复杂建模能否解决问题

全力应对不确定性

人体是一个复杂系统

无法预测的命运

第四章 变化的速度

3D打印

互联网前和互联网后

加速、智慧以及奇点

技术发展的失控

我们是否有能力控制

技术变化的获益和风险

第五章 权衡

DDT和氟利昂

纳米技术

环境风险：合成石油和水力压裂

核电和能源

第六章 生物工程和转基因

基因学简史

自上而下和自下而上

基因科技的前沿

人兽杂交

黄金大米事件

第七章 掌控人类基因

设计人类？

基因与环境

个性化药物

从试管婴儿到设计婴儿

基因研究的转折点

第八章 超越生命极限

超级人类

假如可以长生不老

有智慧的机器

第九章 半机器人和技术智人

关于未来的战争

关于增能之争

我们身边的半机器人

符合伦理的研究

认知增能

第十章 病态的人性

用药物提升道德？

生物化和机械化

修复设计缺陷

透过黑暗的玻璃

第十一章 超级武器与技术风暴

如果我们不采取行动，他们会的

保健广告的荒谬

我们还有多少时间

第十二章 终止终结者

自动驾驶汽车和责任

服务型机器人

计算法决定生死

未来战争的红线

电脑无处不在

第十三章 工程灾难

绝育和抑制

为责任设计

道德机器

弹性系统

第十四章 社会应变落后于技术发展

社会和技术的节奏问题

胡萝卜加大棒

执行中的挑战

第十五章 我们的未来

人类可掌握的节奏