* * * * * * * * * * * * * * * *
自从比尔投身于新科技的创造以来,他心里也许一直存在着一种对伦理的思考,这大概是他有别与许多其它所谓优秀的科学家们的一个重要的因素。直到1998年,当比尔遇见发明盲人阅读机以及其它一些很了不起的技术的科学家睿•库兹维尔,他才真正开始焦急的意识到21世纪的新技术将会给人们带来的巨大危险。
两位科学家在一次会议之后,在旅店的酒吧里懈逅。那天睿的谈话内容,此后一直缠绕着比尔。
睿认为现代技术将会以加速度的方式发展的越来越快,而人类将成为机器人或与机器人融合。比尔曾经听到过类似的说法,但他一直以为这不过是在科学幻想之列。可是那天当他所最尊敬的科学家之一以十分强力的论据断言这将成为一种很临近的现实时,比尔内心感到了震颤。尤其睿对未来具有想象和创造的卓越能力早已被多次的证实过。比尔过去知道诸如遗传工程学和微粒子科技等新技术可以使人类具有重新制造这个世界的能力,但是产生有智慧的机器人的那一天离我们是如此的逼近和现实,使得比尔惊讶不已。
现在在每天的新闻里,我们几乎都可以听到某种新技术和科学的突破。睿所说的并不是一个一般的预言。睿在他所著的《精神机器人时代》一书中描述了他所预见的乌托邦──在那里由于人类合于机器人技术而几乎可以长生不老。这本书的草稿使得比尔更加的焦虑不安。他可以肯定睿已经特意的轻描淡写了人类在这条路上走下去所面临的危险。
睿的书中有引有一段对未来情况的细致的描写:
“假如计算机科学家可以成功的制造比人类更有能力的智能计算机,那么所有的工作将会被巨大的、高效组合的计算机系统完成,而人类不须再承担工作的负荷。这时,机器就会被允许做出自己的决定,而不须人的监控。
如果允许机器做决定,其结果一定是不可推测的。因为人不可能知道机器的行为。这时,人类的命运已掌握在机器的手中了。也许有的人会争辩:人类永远也不会这么愚蠢,已至于把自己的所有权力都交给机器。确实,人类不会主动的把权力交给机器,但是人类会很轻易的变换到一个十分依赖机器的地步上,逐渐地,除了不得不接受机器的决策,别无选择。当社会上所面临的问题越来越复杂,而机器变得越来越智能时,人们会让机器为自己做越来越多的决策。这是因为看起来机器作的决定比人所作的决定能带来更好的效益。最终,为确保系统运行所需要的决策会变得十分复杂,已至于人类无法做出足够智慧的决策,而那时,机器却会有效的控制一切。人类再也无法关闭机器,因为他们已经如此的依赖于机器 -- 关闭机器无异于自尽。
另一种可能出现的情况是人类保留对机器的控制权。在这种情况下,一般人可能对自己个人所有的机器有一定的控制,诸如自己的车和计算机。但是对于大系统机器的控制集中在极少的人手中。这种情况和今天差不多,但是有两个区别。由于技术的先进,极少数人对大众有极大的控制权;由于人不必完成工作,大众就显得过剩了,成为这个系统的负担。假如这少数人是一群无情的人,他们会决定铲除大多数人类。假如他们是稍有仁慈的,他们会利用宣称以及其它的心理和生理技术减少人类的出生率,最终消灭人类,而让这少数人拥有这个世界。他们会确保每个人的身体需求得到满足,儿童在心理卫生的条件下成长,每个人都忙于自己的爱好,任何不满足的人可以通过“治疗”解决他们的“问题”。这些机械化了的人们也许在这样的社会中感到愉快,但是他们肯定是不再拥有自由了。他们已被降为驯养的动物。”
如果说这部书还不足称奇的话,那么,当你翻过这一页,发现上面的这个段落竟然是帝多.堪金斯基──邮寄炸弹者──所写,那么你一定会十分惊奇了。帝多所邮寄的自制炸弹在17年中伤了很多人。与比尔同时代最有才气和远见的计算机科学家大卫.简勒特就被帝多的一个炸弹严重创伤。虽然帝多所为是犯罪行为,但是他确是一个卢德派分子(反对先进技术的人)。但这并不减弱他的论据。尽管比尔心情沉重,但是他仍然从帝多的论述中看到了它的价值。他决定面对这个严峻的问题。
帝多的眼力使他预见到了不可预期的后果。人类对抗生素的过度使用导致了今天最可怕的问题:具有抵抗抗生素能力并且更加危险的细菌。同样,对毒蚊使用强力DDT使他们产生了抗药性;而疟疾寄生虫则获得了多种抗药基因。
这些问题产生的原因很清楚:社会和生态系统是及其复杂的,各个部分之间有各种各样的互动和反馈作用。系统中任何细微的变换,将会导致不可预料的一系列的反应。而在有人类参与的行动中更是如此。
与此同时,位于康乃迪.迈伦大学的当今世界上最大型机器人研究中心奠基人汉斯•毛拉瓦克,在他所著的《机器人:小小的机器可以超越人脑》书中,有着惊人相似的论说:
“当遭遇超级竞争对手时,生物物种从未幸免于难。一千万年前,当南美洲和北美洲被巴拿马峡谷分隔的时候,如今澳大利亚所处的南美洲是有袋哺乳动物的乐园。但是当巴拿马峡谷升起并连接南美和北美大陆时,仅仅几千年的功夫,具有稍强的新陈代谢和生殖能力的北美洲胎盘哺乳动物几乎取代和消灭了所有的有袋哺乳动物。
在一个完全的自由市场机制中,超级机器人毫无疑问的会取代人类,就如同北美洲胎盘哺乳动物取代和消灭了南美洲的有袋哺乳动物一样。但是,由于政府的强制性非市场机制的作用,比如征集税收等,大概会保持人类的生存一段时间。”
毛拉瓦克的观点很清楚:机器人最终将取代人类。
此时的比尔已不安的登上了飞往洛杉矶的飞机。他认为时间已到,他必须对他的朋友丹尼•西里斯和盘托出自己的忧虑。丹尼以他所创建的思维机器企业而著名。他研制了一个并行处理超级计算机。在比尔所有熟知的科学家中,丹尼以他的对未来的非凡的想象力和他精深的物理学知识而倍受尊敬。四年前他制造了一个可以运转一万年的钟表,用以提醒人们对社会发展观察的短视。
但是当比尔告诉他在睿的书中所预言的人类将与机器人合并的论说,丹尼迅即的回答令人始料未及。他轻描淡写的说,这个变化会逐渐的发生,而人类会习惯这一变化的。
但是丹尼的回答并非完全出人意料。在睿的书中引有丹尼的一段话:“我和所有人一样爱我的身体,但是,如果我的身体被硅片取代,而我可以活200岁的话,我愿意。”看来丹尼对于这种危险处之泰然,而比尔却不是。
在思索着睿、帝多和毛拉瓦克的预言的同时,比尔忽然记起20年前阅读的一本叫做《白色瘟疫》的书。一个分子生物学家因为一个冷酷的系列谋杀者杀死了多位家人而疯狂,他研制和散播了一种有选择性的具有极强传染力的瘟疫(我们应为帝多只是一位数学家而不是分子生物学家而感到庆幸)。还有,STAR TREK,那群半生物半机器人的物种具有极强的破坏力。这些灾难性的故事似乎只是科学幻想的来源,但是比尔在思考为什么自己没有更早的被这种机器人的想象而警醒?为什么其它人不为这个恶梦般的远景而忧虑?
原因在于人们对于新生事物所采取的态度── 不加思索的接受和迅速的同化。人们已习惯于近乎例行式的不断的科学的新发现和突破。21世纪最引人注目的机器人技术、遗传工程学和微粒子科技带给人类的是与以往不同的威胁。因为他们都具有危险的无限放大的能力:他们可以自我复制。一个炸弹只不过爆炸一次,但是一个蝇蛆却可以被失去控制的快速复制。
比尔过去25年中致力于计算机网络的研制,互联网上传送的信息亦可以被失控的复制。但是那只不过最终导致机器的瘫痪。而这些新技术的自我复制功能却会产生更可怕的后果:即对物质世界的严重破坏。尽管如此,人们仍不顾一切的研制这些新技术,动力在于人类寄期望于它会延长自己的寿命。
这些新技术与20世纪的技术有什么不同呢?诚然,象原子弹、生化武器这样的大规模杀伤武器十分的强大,并对世界构成威胁。但是制造原子弹须很难得到的原材料和严格保密的技术信息;生化武器也需要大规模的制造设备。
而21世纪的新技术── 机器人、遗传工程学和微粒子科技 -- 可以迅即的产生大量的新变异类和被无限的滥用。最可怕的是,有史以来第一次,这种变异和滥用即可被小团体甚至个人广泛使用。因为它们不需要任何大规模设备或者什么稀罕的原材料。仅仅掌握使用它们的知识就足够了。所以,人类不仅有了大规模杀伤武器,还有了大规模杀伤知识。而后者因为有着自我复制功能而可能会被以巨大的规模膨胀。
到此时,比尔看到人类已经站在了无节制的追求尽善尽美的极端邪恶的边缘。这个魔鬼早已超越了大规模杀伤武器给世界所带来的不幸,它将赋予一些极端的个人以令人可怖的无边魔力。
比尔在开始与计算机打交道的时候,从来没想到他今天会面对这些问题。他的一生都被一种寻求答案的动力所驱使。从3岁开始阅读书籍。他的父亲因此很早就把他送入小学。这之后,他跳了一级,并把自己埋藏在书中。比尔令人难以至信的对知识充满了渴求。
十几岁的比尔对科学就开始感兴趣。他的母亲总是觉得他过于不擅社交。他没有什么亲近的朋友,但是他的头脑中总是充满了各种想法。在高中的时候,他阅读了很多科学幻想的书籍,主要是有关机器人和航天技术方面的。他对航空飞行十分着迷,由于没有钱买望远镜,他从图书馆里借来了自制望远镜的书,任想象在自己的头脑中海阔天空的奔腾。
那时候他经常看晋•拉邓白瑞最初的STAR TREK版本,这个节目对他产生了十分大的影响。他开始接受晋的观念:人类的未来会以西部牛仔方式在太空中发展,有着了不起的英雄和探险。拉邓白瑞对未来世纪的展望是基于强大的道德观念,他认为这些发展不应该干涉技术落后的那一部分人类文明。比尔十分认同这一观点:有伦理的人类,而不是机器人,应该掌握着未来。他从此把拉邓白瑞的梦想变成了自己的一部分。
在高中,比尔数学成绩出众;在密西艮大学读本科的时候,他选择了数学系高等课程。对于他来说,解数学题真是其乐无穷,令人兴奋的事。但是当他知道了计算机时,他产生了更大的兴趣:他可以用程序试图解决一个问题,而后计算机很快的检查结果。计算机对正确和错误、真和假有明确的主张。计算机可以告诉他自己的主意是否正确,这简直太诱人了。
比尔很幸运的找到了一份工作,使用最早的超型计算机,并发现大型计算机可以用数字模拟先进的设计,其能力令人惊异的强大。当比尔在1970年中期到加州大学伯克利就读研究生时,他开始彻夜不眠或只有很少的睡眠, 他把时间用来在计算机里发现新的世界,解决问题,写那些有强烈争议的程序。
在欧文•史东所写的米开朗齐罗的传记《痛苦与狂喜》中,他惟妙惟肖的描述了米开朗齐罗是如何让他的雕塑从石头里被释放出来,“穿破大理石的符咒”,用他思想中的形像雕刻人像。在比尔最狂喜的时刻,那些软体程序以同样的方式浮现在计算机中。一旦他开始在脑中设想到了,他便感觉到它已经在计算机中存在并等待着比尔去把它释放出来。
(大纪元)(文章仅代表作者个人立场和观点)
- 关键字搜索:
- 21
看完这篇文章觉得
排序