当心“双刃剑”
美国著名科学家乔伊在一篇《为何未来不需要我们》的文章中，述说了他对科技过分进步的三大恐惧：第一是在机械人方面，当能思想的电脑在大约30年后出现时，它的功能会比现时的电脑强大100万倍，这正是机器人能自我复制及进化的关键。这时它们抢班夺权就并非是异想天开的事了。
第二是随着基因研究的突破，由人类自制的新型瘟疫很可能在失控状态下毁灭整个自然世界。
第三，是由微型科技制成的超微小机器，也有可能成为能自我复制、具毁灭性兼无法制止的机械。乔伊认为，只要这些机器能发展为生命的形式，便不能制止。
乔伊说：它们将激烈地跟人类进行竞争，使人类无法得到维持生命的必需品，到时人类将会绝种。
值得一提的是，乔伊的忧虑并非是一家之言。美国著名的材料科学家罗伯特·纽纳姆也说，硅智能将发展到难以想象的程度，它甚至会产生“拥有可以超越所有生物的共同意识”的人——硅复合生命形式，这种生命形式可以“看见”无线电波，“倾听”星光，它们对现实世界的认识和理解与现在的人们截然不同，我们从它们身上了解到的东西，可能比借助显微镜、望远镜、X光机等高技术工具获得的发现还要令人惊奇。英国雷丁大学控制论研究室负责人凯文·沃里克说得更干脆：“到2050年，机器将征服人类。”总之，他们断言，未来超级智能机器人的智慧将会迅速超过爱因斯坦和霍金的智慧之和，人脑作为地球上最聪明的东西的日子已经为时不多了。
这是危言耸听吗？当我们的虚拟世界被电脑病毒“大闹天宫”而不得安宁时，我们应能意识到这样一种威胁的逼近。“病毒”可以自行复制并繁衍滋生，硬件与软件的复合体——机器人为什么就不能自行复制了呢？笔者曾经炮制过一组题为《怪蚊》、《怪树》、《怪鼠》的科幻小说，说的就是一些能够不断复制繁衍的人造怪物肆虐地球的故事。我以此来表示自己对科学技术毫无节制的自由发展可能造成后果的担忧。
多利羊诞生时，人们为克隆（复制）技术的伟大胜利而欢呼，但很快就有人开始了复制人的研究。这引起世界一片慌乱，可在一片反对声中，实验仍在进行，据说这在技术上根本就已没有障碍。日本东京农业大学一位教授进行了一项人牛杂交试验，他已把人体细胞核移植到了牛的未受精卵里。那么，未来的世界里，有着惊人蛮力又兼有人的智慧的“牛魔王”或“虎大王”之类怪物会不会横行于世？你敢说，在失控状态下不会成为我们的对头？
滥用科学技术会伤害甚至毁灭人类自己。这绝不是杞人之忧。我们实在不敢排除那种科学狂人由于滥用科学技术而可能导致的灾难。也许今天我们难以用可能带来危险为理由限制某种科学试验，但是在已经知道像核武器这样的技术足够把地球毁灭几十次的情况下，我们就应当对人类智慧、能力的滥用及其可能带来的后果有所顾忌。至少也要保持有足够的警惕。科学技术从来就是一把双刃剑，当我们挥舞着它与天斗与地斗，收益丰厚并享受着无穷的乐趣时，千万也得当心呀，可别让这柄剑伤着了我们人类自己。
