如何测算ChatGPT算力需求？人工智能

服务器厂商：浪潮信息、中科曙光等；

ChatGPT：大模型训练带来高算力需求

具体来看，AI大模型对于算力资源的需求主要体现在以下三类场景：

1、模型预训练带来的算力需求

模型预训练过程是消耗算力的最主要场景。

1）模型开发过程很难一次取得成功，整个开发阶段可能需要进行多次预训练过程；

2）随着国内外厂商相继入局研发类似模型，参与者数量增加同样带来训练算力需求；

3）从基础大模型向特定场景迁移的过程，如基于ChatGPT构建医疗AI大模型，需要使用特定领域数据进行模型二次训练。

ChatGPT单月运营需要算力约4874.4PFlop/s-day，对应成本约616万美元。

3、Finetune带来的算力需求

模型调优带来迭代算力需求。从模型迭代的角度来看，ChatGPT模型并不是静态的，而是需要不断进行Finetune模型调优，以确保模型处于最佳应用状态。这一过程中，一方面是需要开发者对模型参数进行调整，确保输出内容不是有害和失真的；另一方面，需要基于用户反馈和PPO策略，对模型进行大规模或小规模的迭代训练。因此，模型调优同样会为OpenAI带来算力成本，具体算力需求和成本金额取决于模型的迭代速度。

需求场景：预训练+日常运营+Finetune

1）模型预训练：ChatGPT采用预训练语言模型，核心思想是在利用标注数据之前，先利用无标注的数据训练模型。据我们测算，训练一次ChatGPT模型（13亿参数）需要的算力约27.5PFlop/s-day；

2）日常运营：用户交互带来的数据处理需求同样也是一笔不小的算力开支，我们测算得ChatGPT单月运营需要算力约4874.4PFlop/s-day，对应成本约616万美元；

3）Finetune：ChatGPT模型需要不断进行Finetune模型调优，对模型进行大规模或小规模的迭代训练，预计每月模型调优带来的算力需求约82.5~137.5PFlop/s-day。

随着国内厂商相继布局ChatGPT类似模型，算力需求或将持续释放，供给端核心环节或将率先受益：

1）算力芯片：GPU采用了数量众多的计算单元和超长的流水线，架构更适合进行大吞吐量的AI并行计算；

2）服务器：ChatGPT模型训练涉及大量向量及张量运算，AI服务器具备运算效率优势，大模型训练有望带动AI服务器采购需求放量；

算力芯片：AI算力基石，需求有望大规模扩张

服务器：AI服务器有望持续放量

数据中心：核心城市集中算力缺口或将加剧

IDC算力服务是承接AI计算需求的直接形式。ChatGPT的模型计算主要基于微软的Azure云服务进行，本质上是借助微软自有的IDC资源，在云端完成计算过程后，再将结果返回给OpenAI。可见，IDC是承接人工智能计算任务的重要算力基础设施之一，但并不是所有企业都需要自行搭建算力设施。从国内数据中心的业务形态来看，按照机房产权归属及建设方式的角度，可分为自建机房、租赁机房、承接大客户定制化需求以及轻资产衍生模式四种。