如果 AI 的规模扩张持续到 2030 年，会发生什么？

Epoch AI 最近受 Google DeepMind 委托编写了一份分析报告，探讨这种规模扩张（Scaling）在计算、投资、数据、硬件和能源方面将带来哪些影响。在报告中，进一步探讨了这种规模扩张将赋予的未来 AI 能力，尤其是在科研领域，而这正是领先 AI 开发者关注的重点。

我们将报告上传到了 ima 知识库当中，有需要的朋友可以免费下载/在线 AI 问答。

我们在下面简单讨论一下下，该报告的一些发现：

尽管需要前所未有的 Infra 能力，但 AI 的规模扩张很可能持续到 2030 年，并将为科学界及其他领域带来变革性的能力。

规模扩张可能会持续到 2030 年

按照目前的趋势，到 2030 年，用于训练前沿 AI 的集群的成本将超过 1000 亿美元。此类集群可以支持约 10^29 FLOP 的训练运行——这一计算量相当于 2020 年最大的 AI 集群连续运行 3000 多年所需的计算量。在此类集群上训练的 AI 模型将比 GPT-4 消耗数千倍的计算资源，并需要数吉瓦的电力。

这体现了研究结果中一个反复出现的模式：如果今天的趋势持续下去，就会导致极端结果。应该相信这种趋势会持续下去吗？过去十年，外推法一直是强有力的基线，而当调查即将出现经济放缓的论据时，这些论据往往缺乏说服力。

从报告中得出的结论：

Scaling 可能会“碰壁”：即 AI 系统可能无法随着进一步扩展而改进。但最近的 AI 模型在基准测试和收益方面取得了显著提升。这种情况有可能发生，但目前尚无明显证据。

用于训练的数据库存可能会耗尽：但目前公开的人工生成文本数量足够，至少可以扩展到 2027 年，而且合成数据可以大量生成，而且在推理模型发明后，其实用性得到了更充分的证实。数据瓶颈很难完全排除，但似乎是可以克服的。

电力可能会成为规模化发展的瓶颈：如果规模化持续下去，到 2030 年，前沿训练运行将需要数吉瓦的电力。这将难以满足需求，但有一些方法可以快速扩大电力输送规模，例如太阳能和电池，或离网天然气发电。此外，前沿 AI 训练运行已开始在地理上分布在多个数据中心，这将缓解挑战。电力不太可能在 2028 年之前成为瓶颈，即使在那之后似乎也可以解决。

规模化可能会变得过于昂贵，导致 AI 开发者停止投资：这当然有可能，但目前还没有什么迹象。如果 AI 开发者的收入继续按照近期趋势增长，到 2030 年，他们的收入将达到预估的 1000 亿美元以上的前沿培训投资额。AI 收入增长到数千亿美元可能看起来很极端，但如果 AI 能够提高很大一部分工作任务的生产力，其价值可能达到数万亿美元。

AI 开发可能会转向更高效的算法：但算法效率已经在现有的计算增长中不断提升。没有特别的理由预期算法进步会加速，即使加速，这似乎也可能鼓励使用更多的计算 。

AI 公司可以将计算资源重新分配给推理：例如用于运行推理模型和其他产品。但目前训练和推理的计算资源相当，有理由预期训练和推理应该同时扩展。扩展训练可以创建更优秀的 AI 模型，从而能够以更经济的方式执行更有价值的推理任务。可能会出现向推理的转变，但推理扩展似乎不太可能减缓训练的扩展。

综上所述，认为将目前的趋势推断至 2030 年是一个强有力的基准预测。如果这些趋势持续下去，就能推断出 AI 的能力，将在下文讨论。

AI 将加速多个领域的科学研发

在本报告中，还探讨了 AI 如何提升生产力的具体案例。重点关注科学研发，这是几位领先的 AI 开发者所宣称的重点能力趋势表明，AI 在科学研发领域将取得巨大进步，尤其是在软件工程和数学等领域，这些领域可以完全通过计算机模拟训练完成实际任务。

到 2030 年，现有的基准进展表明，AI 将能够利用自然语言实现复杂的科学软件，协助数学家形式化证明草图，并回答有关生物学方案的复杂问题。

预测到 2030 年，许多科学领域都将拥有堪比当今软件工程师编程助手的 AI 助手。与软件工程相比，AI 助手会有所不同，例如，它更注重查阅和综合大量异构文献，而现有的 AI 编程工具主要局限于单个项目。尽管如此，它们也存在一些重要的相似之处：能够根据上下文提供建议、查找相关信息、完整地完成一些较小的封闭式任务。

以软件工程为例，预测这最终将使各项任务的生产力提升 10-20%。即使数学家或理论生物学家的工作任务不如软件工程师那么易于自动化，也已从相关基准测试中获得了改进的证据，并预计未来仍将取得更多进展。预计 AI 能力将在多个科学领域带来变革，尽管其全面部署可能需要比 2030 年更长的时间。

从报告中选取了以下四个示例：软件工程、数学、分子生物学和天气预报。虽然所选基准无法涵盖每个领域面临的全部挑战，但它们有助于深入了解 AI 日益增强的能力，以及哪些任务可能很快会实现自动化。分数收集自排行榜和模型卡，并将拟合结果限定于表现最佳的模型。

SWE-Bench-Verified：基于解决实际 GitHub 问题并进行相关单元测试的编码基准测试。结果包括模型卡报告的结果，包括采用私有方法的模型卡，例如 Claude Sonnet 4。

RE-Bench：一项基于类似于求职者家庭评估任务的研究工程基准，人类大约需要八个小时才能完成。

软件工程：AI 已经通过代码助手和问答系统改变了软件工程。按照目前的趋势，到 2030 年，AI 将能够自主修复问题、实现功能，并解决困难（但定义明确）的科学编程问题。

结果仅显示通用 LLM，不包括 AlphaProof 和 AlphaGeometry2 等特定领域的系统。

AIME：用于确定参加美国数学奥林匹克竞赛的高中数学考试，整数答案。

USAMO：美国数学奥林匹克竞赛，一项基于证明答案的高中数学考试。

FrontierMath：一种数学基准，专注于挑战专家级别的问题，但仍然提供可直接验证的答案（数字或简单表达式）。

数学：AI 可能很快就会成为研究助手，充实证明草图或直觉。早期的记录已经证明 AI 对数学家的工作很有帮助。著名数学家对现有数学 AI 基准与其工作的相关性的看法，以及对 AI 何时能够自主得出数学结果（而非仅作为助手）的预测，存在很大分歧。

PoseBusters-v2：蛋白质-配体对接（空间相互作用）的基准。仅包含盲测结果，即未提供蛋白质的结合口袋。

ProtocolQA：关于生物学湿实验室协议问题的基准，这里没有多项选择题答案进行评估。

蛋白质-蛋白质相互作用：预测蛋白质-蛋白质相互作用方面取得了显著进展，但对任意配对的预测都有很高的假阳性率。对进展的描述高度不确定，并且取决于基准测试的细节。

分子生物学：蛋白质-配体相互作用的公共基准，例如 PoseBusters，有望在未来几年内得到解决，尽管预测任意蛋白质-蛋白质相互作用的时间更长（且不确定）。

与此同时，用于生物学研发的 AI 案头研究助理即将问世。现有的生物学协议问答基准应该在 2030 年之前得到解决。虽然这些基准并不能代表分子生物学领域面临的所有挑战，但它们的发展趋势为了解 AI 在该领域日益增长的能力提供了一个独特的窗口。

天气预报：AI 天气预报已能将预测时间从数小时提升至数周，超越传统方法。此外，AI 方法运行成本低廉，并且随着数据量的增加，预测效果有望进一步提升。接下来的挑战在于改进现有的预测，尤其是罕见事件预测，并利用改进后的预测造福更广泛的世界。

研究中反复出现的主题是，部署和社会影响可能显著滞后于实际能力。例如，与制药研发相比，软件工程的迭代周期更短，通常易于检查近似正确性，并且拥有丰富的训练数据。

出于这些原因，预计到 2030 年获批上市的药物中，很少有药物能够受益于当今的 AI 工具，更不用说 2030 年的药物了。

然而，到那时，早期开发很可能已经感受到 AI 的显著影响。相比之下，预计软件工程将发生巨大变化，预计科学研发及更广泛领域的软件将蓬勃发展。

结论

到 2030 年，AI 很可能成为贯穿整个经济的关键技术，渗透到人们与计算机和移动设备互动的方方面面。如果这些预测成真，那么在未来五年及更长时间内，关键决策者必须优先考虑 AI 问题。

当然，经济远不止科学研发。AI 的大部分经济影响可能来自于经济领域中众多任务的广泛自动化。然而，科学研发任务更容易拥有基准，往往价值高，技术采用速度快，并且需要大量的专门研究。而且，正如前文所述，科学研发是领先 AI 实验室的明确重点。因此，预计研发任务将成为检验 AI 能力的有力试验台。

这一预测存在很大的不确定性，即使在软件工程领域也是如此。在最近一项关于 AI 对软件工程影响的研究中，文献综述发现了七项实证研究。其中六项研究发现，产出速度或产量提升了 20-70%。剩下的一项研究却意外地发现了 20% 的减速，尽管它自称采用了最彻底的方法论。

对于软件、生物学以及一般而言，重大的技术变革使的预测变得越来越不确定。例如，全新的生物医学流程可能会由 AI 的设计和组织来促进，这在概念上类似于 mRNA 疫苗等流程，这些疫苗可以逐年安全地更新，而无需从头开始审批。