注：技术革命帮助人类进步，因为它总能够帮助人类解决一些老问题。但是它也会引入更加棘手的新问题，Y Cominator的新当家Sam Altman担心，我们目前正处在的这场软件革命可能会带来两个巨大的风险，而目前我们的应对策略似乎迷失了正确的方向。在此，我们将他的文章编译如下供大家思考。<br><br>[hr]<br><br>人类历史上曾有过 3 次伟大的技术革命—农业革命、工业革命，以及我们正处在的软件革命。<br><br>这些伟大的技术革命影响到了大部分人每天所做的事情以及社会的组织形式。上一次的工业革命创造了大量的工作岗位，因为这种新技术需要庞大的人力去执行。但这个并不是技术的常规发展路径，实属反常。这还让人（也许是潜意识下）萌生这样的想法，即技术革命对于大多数人的经济状况来说永远都是好的。<br><br>软件革命似乎也跟技术通常产生的效果一样—创造财富但是摧毁工作。当然，我们也许可以找到新的事情去满足无休止的人类需求。但是我们不应该再自欺欺人地认为软件革命本身会对中等收入者有好处了。<br><br>技术给能力和运气提供了杠杆，这一进程令财富集中，导致了不公平。我认为贫富的极度不均将成为未来 20 年最大的社会问题之一。我们可以，也能够对财富进行重新分配，不过这依然没有解决那个真正的问题，即人需要有有意义的事情做。<br><br>固执坚持没价值的工作是一种可怕但却又很流行的想法。对于几十亿人来说，寻找新工作的想法很好，但显然又很难，因为无论那是什么新工作，大概跟此前任何现有的工作都很不一样，所以想进行有意义的规划几乎是不可能的。但是目前的策略不是正确的答案—“我们姑且把 Travis（Uber 创始人）有关自动汽车可取代司机、Uber 能创造数百万岗位的言论当作玩笑”。<br><br>软件革命的第二大挑战是权力集中在小集团身上。大多数技术革命也是这种情况，但是最近一次真正令人恐怖的技术（原子弹）给了技术革命和岗位增加以很不好的示范。<br><br>造原子弹很难，其难不在于知识受限（虽说的确如此），而在于铀浓缩需要耗费庞大的能量。这需要倾国之力。<br><br>再次地，这并不是技术的常规路线，而是核能研发的特质。软件革命可能还是会像技术以往一样，令更多的权力集中到小集团身上。<br><br>我认为软件革命有两个最大的风险，一是人工智能，二是合成生物技术。这两样技术会把惊人的破坏能力交到一小撮团体或甚至个人身上。一间小小的实验室可能已经可以设计制造出一种可怕的疾病；可终止人类生命的人工智能的开发也许只需要全球任何一栋办公楼的几百人，而这些人所需的装置只不过是一台笔记本。<br><br>这些新的存在性威胁并不需要举国之力才能制造出来。以往一些需要国家资源才能造出来的东西，比方说火箭，现在公司也可以做了，这至少部分是拜软件所赐。但是火箭可以摧毁地球上的任何东西。<br><br>那我们该怎么办？我们无法让有关这些东西的知识变得非法，这行不通，技术的进展是无法阻挡的。<br><br>个人认为最好的策略是将理智的保障措施立法化，但同时努力确保技术优势掌握在好人一方。如果我们可以合成新病毒，也许也可以合成出疫苗。如果我们可以制造出会作恶的人工智能，那么也许也可以创造出好的人工智能去阻止它。<br><br>当前的做法是一种很坏的误导。这一次不会像原子弹一样，但是我们越早停止自欺欺人才可以越早摆脱危机。现在的事实是，我们并没有为对抗生物合成和人工智能进行认真的努力，这一点是令人震惊的。<br><br>需要指出的是，我其实是软件革命的粉丝，为生活在这个时代感到幸运。但我担心我们从最近的例子中吸取到的是错误的教训，而大规模摧毁工作以及超级权力的集中化这两个问题我们已经迷失了。<br><br>[本文编译自：blog.samaltman.com]<br><br>[hr]何必逆天而行？人工智能到了该取代人类的时候，就让它取代了吧。天道有恒，盈久而亏，人类能在特定历史阶段起到重要作用，已足称幸事。一个物种要永远霸占着万物灵长的位置，就像一个政党要永远霸占着政权一样，可笑亦复可耻。

你是人工智能派来的三体党吧

我是小雷神他爹。