接下来会怎样?

如果我们把AI的增长曲线再往前推演几年,它将改变一切。一个理性的人应该如何做好准备?

Dario Amodei

这个周末我一直在密集地看 Dario Amodei 的内容。开车的时候听了他和 Ross Douthat 的对谈,昨晚又重读了他的两篇文章——Machines of Loving GraceThe Adolescence of Technology。结合我自己在生成式 AI 对软件工程影响方面的亲身经历,再粗略推演一下当前趋势,我认为 Amodei 所说的"数据中心里的天才之国"不仅在较短时期内完全可行,而且将对几乎所有领域产生巨大的颠覆性影响。

所以,摆在面前的紧迫问题是:面对这样的判断,我们该怎么做?

当前形势

先来看看 Amodei 的一些论点和担忧。“压缩的21世纪"这个概念很有说服力——把一个世纪的变化压缩到5到10年里。想象一下,2016年的我们还活在1916年的世界里,十年后就突然进入了现代社会,至少在技术层面上是这样。某些方面会像魔法一样:1916年美国爆发了大规模脊髓灰质炎疫情,而今天脊髓灰质炎已经几乎被根除,只有阿富汗和巴基斯坦还存在地方性传播。但另一些方面则令人不寒而栗:想想冷战期间我们离核末日有多近,而那还是在花了几十年时间建立安全机制和沟通渠道的情况下。如果1916年在欧洲战壕里互相屠杀的列强们手中突然多了洲际弹道导弹,我相当确定今天就不会坐在这里写这篇文章了。

突然置身于2126年的世界,同样既神奇又可怕。所有疾病都被治愈了,但也出现了不会拒绝非法命令的自主武器。数以百万甚至数十亿的天才级智能体在各个学科领域攻克最难的问题(就像 AlphaFold 攻克蛋白质折叠一样,但覆盖所有领域),与此同时数以百万甚至数十亿的人失去工作。近乎完美的监控和管控系统可能会以几乎无法抵抗的方式巩固威权政体。绝大多数生产性资产可能被极少数行为体(包括国家和企业)所控制,让今天不断恶化的贫富差距看起来简直像是平等主义的乌托邦。

变化发生的速度会大大增加走捷径的可能性,让很多局部最优解被锁定,而这些结果并不符合大多数人的利益。紧急措施往往比紧急状态本身存在得更久,这一点很有说明性——想想9/11之后的《爱国者法案》,或者中国为监测新冠疫情而建立的系统至今仍在被用来监控民众

当然,并非所有人信服。同样的变革如果用50年而不是5年来实现,仍然是人类的巨大进步,却不会带来那么多速度所导致的副作用。而且这一切也可能根本不会发生——十亿个 Claude Opus 4.6、GPT 5.2 或 Gemini 3 的实例真的能带来变革吗?也许吧,但大概不会像 Amodei 和其他人所预测的那样全方位地发生。

我该怎么做?

我很想回答"我们作为一个整体应该怎么做?“这个问题,但我觉得自己没那个资格。我能做的是从自己的角度出发——一个职业生涯中后期的软件工程师,有两个十几岁的孩子(一个在上初中,一个马上要上大学)——来看看自己应该怎么做。

不要恐慌

Don't Panic

生活中没有什么确定性。这一切可能最终只是雷声大雨点小,在全球范围内带来0.5%到1%的生产力提升——虽然也不错,但算不上改变世界。然而人类在面对指数增长时普遍判断力很差,而AI的增长恰恰就在这样一条曲线上。它_感觉_像是有什么大事正在发生。认真思考一下自己的未来是有道理的——想想在一个对今天的我们来说如同异世界的未来中,我们的生活会是什么样子,就像我们今天的生活在爱德华时代晚期的人看来一样不可思议。

还有,一如既往,别忘了带上你的毛巾。

14 来源