技术的边界

1、

去年，网上流传一则趣闻。

美国圣昆廷州立监狱安排囚犯学习编程，完成学习的犯人出狱后，没有一个人重新犯罪被抓回监狱。

一位刚刚出狱的囚犯说：“太可怕了，我宁愿在外面饿死也不想再进去学编程了。”

后面那句话是网友杜撰的，但是程序员圈子里，大家依然把它当作笑话转发。“你看，编程多痛苦，还不如坐牢呢。”

我一直忘不了这个段子，觉得它是一个很好的象征：当代社会就像一座机器组成的监狱，学会技术可以摆脱牢房。

2、

人类已经不再生活在大自然了，而是生活在一种机器环境：住宅、交通、医疗、食物……就连水和空气都是机器提供的。如果机器出故障，人类顿时就有危机。就像病人依赖呼吸机和心脏起博器，人类也依赖着机器。整个社会已经机器化了。

这没有问题，我们理应享受技术成果。问题是，技术正变得越来越先进，也越来越难懂，大多数人已经不能够理解技术了。

多少人能说清，手机通信的原理是什么：为什么对着空气发送信号，就能被几千公里以外的另一个人实时收到，而不会发错对象？或者，为什么扫描枪扫一下手机二维码，你的资金就转到了商家的账上？

我们已经不懂了，技术如何达成这一切。我们只是按照别人设计好的方式，像傻瓜一样地使用它。对于大多数人来说，技术已经成了一种魔法。我们使用技术，然后像看魔法一样，看着机器变出神奇的结果。由于熟视无睹，我们都不感到惊奇了。

我们其实已经生活在一个魔法世界里面，享受着各种技术发明，它们的神奇程度是最大胆的想象力都没有预测到的。

小时候，我读过的第一本科幻小说是《小灵通漫游未来》。书里说，未来的人们都带着一种神奇的手表。

“那手表既没有时针、分针、秒针，也没有齿轮和发条，只不过是一块小小的电视荧光屏，上面写着几个数字：“11：23：40”，也就是11时23分40秒，那表示秒的数字在不断变化。当40秒变成60秒时，那23分也一下子变成了24分。

我想，居然会有这样奇妙的手表？ ”

这是前一代人想象中的未来，现在看上去显得非常过时。

技术的进步速度，远远超过人们的想象。我们生活在一个机器世界里，但又不懂这些机器，这是一种怎样的处境？现在的模式是，我们花钱购买服务，让懂的人或公司来操作和维护机器。但是，如果有一天，你请不到人，或者机器索性坏了，你不就困在了机器组成的监狱里了吗？

3、

我妈妈刚开始上网时，有一个问题让她很困惑：为什么网站要求输入用户名和密码，这是什么东西？

她问我：“用户名就是身份证上的名字吗？密码是不是身份证号？”我跟她解释：“网站通过用户名才能知道你是谁，密码则是为了防止别人冒充你。它们都可以自己设定。”我妈似懂非懂，为什么要自己为自己起名呢……

我妈有了用户名以后，可以自己在“某宝”上买东西了。过了一阵子，她来找我，说用户名不管用了。我过去一看，原来她用这个名字在”某东“登录，怎么都登录不上去。她不太明白，为什么在一个网站申请了用户名，到另一个网站就必须再申请一次？

我有时想，等到了我妈的年龄，我是否也会对那时的新技术一头雾水，像看天书一样，不懂如何使用。

现在的大城市，上下班高峰时段，有时你有钱也打不到出租车，必须使用手机 App 才能叫到车。这对于那些不会使用那些 App 叫车的老年人，真是一种磨难。这就是我们所有人的处境：如果你不理解技术，不会使用它，就麻烦了。

4、

我们的社会已经如此依赖技术，为了适应外界，你至少要知道如何使用它。糟糕的是，技术已经变得如此复杂，没有人能够全部搞懂。系统越来越复杂，分工越来越细，一个人已经不可能从头到尾掌握整个系统了。

就拿计算机来说，从底层CPU芯片一直到上层的图形界面，中间大概依次有几十层（甚至上百层）的操作接口，要想全部掌握这些层，几乎是不可能的。有人总结过，单单是“网站搜索”这个简单操作，中间就有24个环节。也就是说，你要搞懂这个操作，就有这么多东西要学习。

现在的情况是：没有人能够理解全部的技术，每个人只懂自己的那一小块。根本无法预测和判断，某个领域的技术发展会引起整个系统怎样的变化。五年规划或十年规划，那种整体的准确安排和控制，就更谈不上了。

技术已经到了这样一个地步：我们走一步看一步，谁也不知道十年后，技术会突破到什么程度。

5、

技术最终会把人类带到哪里呢？

我想我们已经完全不知道了。人类一项又一项地发明新技术，对于新技术带来的后果，已经失去了控制，听任它带着我们向前走。

小说《冰与火之歌》里面，寒冷的北方有一道绝境长城。外面就是危险地带，任何人不得跨越。我最近常想，技术有没有边界呢？一旦接近“绝境长城”，我们会自觉停在那里，不再往下发展吗？

举例来说，人工智能领域有一个概念，叫做“终极智能”。意思是，当机器的智能达到这种程度时，就不需要人类再做发明创造了，因为机器自己就会发明创造。如果这种“终极智能”真的可能实现，技术要不要去实现它呢？

目前来看，技术完全是野蛮生长，没有办法遏制它的发展。哪怕某种技术最终给人类带来毁灭性影响，我们也无能为力。只要技术有能力做到的事情，最终都会做到。人类（严格地说是某些人）最终将拥有可怕的力量。

现在的技术发展，好比随意地往花盆里面扔种子。原意是种花，但是长出来的可能是一棵树，完全超过了花盆的容量。我们能做的，就是看着它长啊长。一旦植物长得太大，超过了花盆所能承受的重量，整个花盆就将倾覆。

6、

最后，我想到了另一个笑话。

一架飞机即将起飞，里面坐的都是各大软件公司的老板。这时，机长问了他们一个问题：如果这架飞机的控制软件是你的公司写的，你还敢坐吗？

除了一个人，其他人都表示不敢坐。唯一那位愿意继续留在飞机上的乘客，机长走到他的面前，钦佩地说：“看来您对自己公司的软件非常有信心。”那位老板摇摇头：“不是啦，我很清楚，如果你们用了我们的软件，这架飞机根本飞不起来。”

第一次听到的时候，我的反应是这不是笑话。一架民航客机有100多吨，就悬浮在空中，上不着天，下不着地，机上乘客的性命完全取决于技术，我们其实真的是把生命托付给软件公司。

如今，我的这种想法更强烈了。它其实是一个隐喻，整个人类正坐在一架软件驾驶的飞机里面，只能祈祷软件运行永远不发生错误。一旦发生问题，人类就会坠机。

物理学告诉我们，要想让飞机在高空不掉下来，就必须高速前进，不能够失去速度。技术也是如此，为了让现有的技术更可靠，只有发展更先进的技术。人类已经走上了一条无法回头的道路，只能提速，无法减速。

一个依赖技术的高科技、高度自动化的社会，也是一个非常脆弱的社会。有人说，一旦出现危机（比如全球变暖或战争），人类就会减缓（甚至冻结）技术发展的速度。错！危机只会进一步加速技术发展，而不会减缓。技术的危机只能用更好的技术解决，否则人类社会就有立刻崩溃的危险。但是， 高速公路上不能刹车，意味着什么？

20世纪初，美国经济学家熊彼特说过一句名言：“资本主义经济最终将因为无法承受其快速膨胀带来的能量，而崩溃于自身的规模。” 我觉得，技术可能也是如此，高速发展所蕴含的巨大能量，最终将把人类社会带到难以预测的脆弱状态。