换句话说,赖特指出,自我意识导致自我复制,导致更好的机器可以在无人类参与的情况下制造出来。就人类命运而言,“我个人总是觉得,这个场景要比许多其他情景可怕得多,”他说,“或许我们在有生之年就会看到这一幕。一旦出现了某种形式的超级智慧要同我们分享地球,一切就都完了。”
并不是所有人都如此悲观。毕竟,机器是依照它们程序的逻辑工作的,布林斯约尔德说,如果正确地给机器编写程序,“机器是不会获得某种超自然能力的”。他指出,值得担心的应该是先进的机器智能在武器或战斗机器中的秘密应用,这些领域没有人能够密切监控。除此之外,布林斯约尔德说,只要负责任地使用人工智能,“我敢说我们能够控制未来”。
未来派杰出作家雷?库日韦尔(RayKurzweil)也认为,更高智慧的人工智能不会以“取代人类的机器异形侵略者”的形象登场。他说,机器的发展将会遵循一条与人类进化相似的道路。不过他也认为,最终,拥有自我意识、能够自我改良的机器将进化到超出人类控制能力、甚至理解能力的地步。
不受人类控制的机器会带来何种法律问题,现在尚不明了,所以“花些心思来考虑这一问题,或许是个好主意”,利普森说。已故的艾萨克?阿西莫夫(isaacasimov)提出过“机器人三定律”,本质上是要求机器人不能伤害人类或者坐视人类受到伤害。利普森指出,阿西莫夫的三定律有一个前提,那就是“假设给机器人编程的是人类”。一旦机器人开始给自己编程,
甚至删除人类指令,此类伦理法则就会变成一纸空文,很难得到遵守。
不过,还有一些人认为,人类或许压根就不应该去控制新一代的人工智能。赖特问道:“谁敢说这不是进化的必经之路?难道当初恐龙就应该规定,哺乳动物不能长得更大,不能更多地主宰这个星球吗?”如果最终证明我们不可能控制这些硅基伙伴,我们最好还是祈祷能够和它们和平共享这个星球吧。
6.两极消融
上升的海平面将会改变世界。
严格说来,美国的版图正在缩小。在20世纪,美国东海岸的海岸线后退了近20米。由于胀冷缩(温度更高的水占有更大的体积)和持续的极地冰盖消融,海平面自 1900年以来已经升高了大约 17厘米。
然而,比起海平面将要上升的高度,这 17厘米根本不算啥。“做好本世纪末升高一米的准备吧,”美国航空航天局退休科学家、冰川学家罗伯特?宾德谢德勒(Robert Bindschadler)说,“海洋里的热量正在使冰盖消融。”
一些着名的预言,例如美国佛罗里达州淹没在海平面 5米以下,孟加拉国变成海湾,可能还要再过几个世纪才会实现。但是到 2100年,北极无冰和海岸线变样都会发生。根据英国伦敦经济学院经济学家尼古拉斯?斯特恩(Nicholas Stern)估算,全球约有 2亿人居住在高出目前海平面不到一米的地区,其中包括全球十座最大城市中的 8座。“他们将不得不迁移,”宾德谢德勒说。