未来世界的幸存者

 主页   资讯   文章   代码   电子书 

技术的边界

1、

去年,网上流传一则趣闻

美国圣昆廷州立监狱安排囚犯学习编程,完成学习的犯人出狱后,没有一个人重新犯罪被抓回监狱。

一位刚刚出狱的囚犯说:“太可怕了,我宁愿在外面饿死也不想再进去学编程了。”

后面那句话是网友杜撰的,但是程序员圈子里,大家依然把它当作笑话转发。“你看,编程多痛苦,还不如坐牢呢。”

我一直忘不了这个段子,觉得它是一个很好的象征:当代社会就像一座机器组成的监狱,学会技术可以摆脱牢房。

2、

人类已经不再生活在大自然了,而是生活在一种机器环境:住宅、交通、医疗、食物……就连水和空气都是机器提供的。如果机器出故障,人类顿时就有危机。就像病人依赖呼吸机和心脏起博器,人类也依赖着机器。整个社会已经机器化了。

这没有问题,我们理应享受技术成果。问题是,技术正变得越来越先进,也越来越难懂,大多数人已经不能够理解技术了。

多少人能说清,手机通信的原理是什么:为什么对着空气发送信号,就能被几千公里以外的另一个人实时收到,而不会发错对象?或者,为什么扫描枪扫一下手机二维码,你的资金就转到了商家的账上?

我们已经不懂了,技术如何达成这一切。我们只是按照别人设计好的方式,像傻瓜一样地使用它。对于大多数人来说,技术已经成了一种魔法。我们使用技术,然后像看魔法一样,看着机器变出神奇的结果。由于熟视无睹,我们都不感到惊奇了。

我们其实已经生活在一个魔法世界里面,享受着各种技术发明,它们的神奇程度是最大胆的想象力都没有预测到的。

小时候,我读过的第一本科幻小说是《小灵通漫游未来》。书里说,未来的人们都带着一种神奇的手表。

“那手表既没有时针、分针、秒针,也没有齿轮和发条,只不过是一块小小的电视荧光屏,上面写着几个数字:“11:23:40”,也就是11时23分40秒,那表示秒的数字在不断变化。当40秒变成60秒时,那23分也一下子变成了24分。

我想,居然会有这样奇妙的手表? ”

这是前一代人想象中的未来,现在看上去显得非常过时。

技术的进步速度,远远超过人们的想象。我们生活在一个机器世界里,但又不懂这些机器,这是一种怎样的处境?现在的模式是,我们花钱购买服务,让懂的人或公司来操作和维护机器。但是,如果有一天,你请不到人,或者机器索性坏了,你不就困在了机器组成的监狱里了吗?

3、

我妈妈刚开始上网时,有一个问题让她很困惑:为什么网站要求输入用户名和密码,这是什么东西?

她问我:“用户名就是身份证上的名字吗?密码是不是身份证号?”我跟她解释:“网站通过用户名才能知道你是谁,密码则是为了防止别人冒充你。它们都可以自己设定。”我妈似懂非懂,为什么要自己为自己起名呢……

我妈有了用户名以后,可以自己在“某宝”上买东西了。过了一阵子,她来找我,说用户名不管用了。我过去一看,原来她用这个名字在”某东“登录,怎么都登录不上去。她不太明白,为什么在一个网站申请了用户名,到另一个网站就必须再申请一次?

我有时想,等到了我妈的年龄,我是否也会对那时的新技术一头雾水,像看天书一样,不懂如何使用。

现在的大城市,上下班高峰时段,有时你有钱也打不到出租车,必须使用手机 App 才能叫到车。这对于那些不会使用那些 App 叫车的老年人,真是一种磨难。这就是我们所有人的处境:如果你不理解技术,不会使用它,就麻烦了。

4、

我们的社会已经如此依赖技术,为了适应外界,你至少要知道如何使用它。糟糕的是,技术已经变得如此复杂,没有人能够全部搞懂。系统越来越复杂,分工越来越细,一个人已经不可能从头到尾掌握整个系统了。

就拿计算机来说,从底层CPU芯片一直到上层的图形界面,中间大概依次有几十层(甚至上百层)的操作接口,要想全部掌握这些层,几乎是不可能的。有人总结过,单单是“网站搜索”这个简单操作,中间就有24个环节。也就是说,你要搞懂这个操作,就有这么多东西要学习。

现在的情况是:没有人能够理解全部的技术,每个人只懂自己的那一小块。根本无法预测和判断,某个领域的技术发展会引起整个系统怎样的变化。五年规划或十年规划,那种整体的准确安排和控制,就更谈不上了。

技术已经到了这样一个地步:我们走一步看一步,谁也不知道十年后,技术会突破到什么程度。

5、

技术最终会把人类带到哪里呢?

我想我们已经完全不知道了。人类一项又一项地发明新技术,对于新技术带来的后果,已经失去了控制,听任它带着我们向前走。

小说《冰与火之歌》里面,寒冷的北方有一道绝境长城。外面就是危险地带,任何人不得跨越。我最近常想,技术有没有边界呢?一旦接近“绝境长城”,我们会自觉停在那里,不再往下发展吗?

举例来说,人工智能领域有一个概念,叫做“终极智能”。意思是,当机器的智能达到这种程度时,就不需要人类再做发明创造了,因为机器自己就会发明创造。如果这种“终极智能”真的可能实现,技术要不要去实现它呢?

目前来看,技术完全是野蛮生长,没有办法遏制它的发展。哪怕某种技术最终给人类带来毁灭性影响,我们也无能为力。只要技术有能力做到的事情,最终都会做到。人类(严格地说是某些人)最终将拥有可怕的力量。

现在的技术发展,好比随意地往花盆里面扔种子。原意是种花,但是长出来的可能是一棵树,完全超过了花盆的容量。我们能做的,就是看着它长啊长。一旦植物长得太大,超过了花盆所能承受的重量,整个花盆就将倾覆。

6、

最后,我想到了另一个笑话。

一架飞机即将起飞,里面坐的都是各大软件公司的老板。这时,机长问了他们一个问题:如果这架飞机的控制软件是你的公司写的,你还敢坐吗?

除了一个人,其他人都表示不敢坐。唯一那位愿意继续留在飞机上的乘客,机长走到他的面前,钦佩地说:“看来您对自己公司的软件非常有信心。”那位老板摇摇头:“不是啦,我很清楚,如果你们用了我们的软件,这架飞机根本飞不起来。”

第一次听到的时候,我的反应是这不是笑话。一架民航客机有100多吨,就悬浮在空中,上不着天,下不着地,机上乘客的性命完全取决于技术,我们其实真的是把生命托付给软件公司。

如今,我的这种想法更强烈了。它其实是一个隐喻,整个人类正坐在一架软件驾驶的飞机里面,只能祈祷软件运行永远不发生错误。一旦发生问题,人类就会坠机。

物理学告诉我们,要想让飞机在高空不掉下来,就必须高速前进,不能够失去速度。技术也是如此,为了让现有的技术更可靠,只有发展更先进的技术。人类已经走上了一条无法回头的道路,只能提速,无法减速。

一个依赖技术的高科技、高度自动化的社会,也是一个非常脆弱的社会。有人说,一旦出现危机(比如全球变暖或战争),人类就会减缓(甚至冻结)技术发展的速度。错!危机只会进一步加速技术发展,而不会减缓。技术的危机只能用更好的技术解决,否则人类社会就有立刻崩溃的危险。但是, 高速公路上不能刹车,意味着什么?

20世纪初,美国经济学家熊彼特说过一句名言:“资本主义经济最终将因为无法承受其快速膨胀带来的能量,而崩溃于自身的规模。” 我觉得,技术可能也是如此,高速发展所蕴含的巨大能量,最终将把人类社会带到难以预测的脆弱状态。