ChatGPT火爆带动算力需求,我国算力规模能否支撑?

ChatGPT热度不减的背后,是人工智能内容自动生成技术所需要的算力需求也水涨船高。

数据显示,ChatGPT的总算力消耗约为3640PF-days(即假如每秒计算一千万亿次,需要计算3640天),需要7~8个投资规模30亿、算力500P的数据中心才能支撑运行。

那目前全球以及我国的算力情况又是如何?

算力需求巨大

算力是推动数字经济发展的核心力量、支撑数字经济发展的坚实基础。在以万物感知、万物互联、万物智能为特征的数字经济时代背景下,全球数据总量和算力规模继续呈现高速增长态势。

中国信通院测算,算力每投入1元,将带动3~4元的经济产出。2021年我国算力产业规模达到2.6万亿元,直接和间接分别带动经济总产出2.2万亿和8.2万亿元。

“算力、算法、数据作为人工智能的三要素,在数字经济发展、产业智能化升级的进程中发挥巨大作用,数据可以看作生产资料,算法代表新的生产关系,算力则是新型生产力支撑着算法和数据,算力水平决定数据处理能力的强弱。在AI模型训练和推理运算过程中需要强大的算力支撑,随着训练强度和运算复杂程度的增加,算力精度的要求也在逐渐提高。”赛迪顾问人工智能产业研究中心常务副总经理邹德宝称。

根据国家数据资源调查报告,2021年全球数据总产量67ZB,近三年平均增速超过26%。基础算力、智能算力、超算算力都呈现稳定增长态势。

“自2016年阿尔法狗问世,智能算力需求开启爆发态势。如今ChatGPT则代表新一轮AI算力需求的爆发。”上海新兴信息通信技术应用研究院首席专家贺仁龙说。

他对第一财经记者解释,ChatGPT从算法类型来说,是AI自然语言模型算法,属于NLP(自然语言处理)类的“阿尔法狗”。“围棋版的阿尔法狗是数据有限的自我演算,ChatGPT则是开放数据,全世界互联网数据都是计算范畴,因此数据量比阿尔法狗扩大无穷倍,算力消耗也比搜索引擎(索引技术)大数倍,而且还是GPU算力。”

据中国科学技术信息研究所此前发布的《2021全球人工智能创新指数报告》,数据中心保有率和全球TOP500超算中心占比被视为各国创新指数基础支撑得分差异的主要原因。在这个细分指标上,美国数据中心保有率达满分,中国在全球TOP500超算中心占比上优势明显,数量连年保持首位。

截至2021年底,我国在用数据中心机架总规模达520万标准机架,在用数据中心服务器规模1900万台,算力总规模超过140EFLOPS。全国在用超大型和大型数据中心超过450个,智算中心超过20个。

虽然2018~2021年中国进入全球500强的超算中心数量一直保持全球领先,但值得注意的是,随着越来越多的国家开始加大算力基础设施的建设力度,与2020年相比,中国在超算中心上的优势有所减弱。

“从超算中心的数量看,中国超过美国,但在计算基础方面还是有差距,核心主要在高质量的数据中心还需要提升。”中国科学技术信息研究所人工智能发展研究中心常务副主任徐峰对第一财经说。

智能算力要加强

在业内人士看来,ChatGPT对算力的要求主要还是聚焦在智能算力上,这也是我国亟需加强的方面。

《中国算力发展指数白皮书(2021)》显示,我国智能算力占比由2016年的3%提升至2020年的41%。“十三五”期间,我国通用算力增长了3倍,智能算力增长近百倍。另据《2022-2023中国人工智能计算力发展评估报告》,2021年中国智能算力规模达155.2EFLOPS(FP16),预计到2026年中国智能算力规模将达到1271.4EFLOPS。2021~2026年期间,预计中国智能算力规模年复合增长率达52.3%。

“现在我国在智算能力上还和美国有差距的,芯片问题导致智能计算中心也受到影响。”一位人工智能领域专家告诉第一财经,他解释,虽然目前我国在算力规模上有优势,但是如何更好地利用算力、怎么样去提升算力的效率还是有一些差距。“在芯片有优势的基础上,他们也在不断扩大算力规模,尤其是智能算力的规模。”

随着“东数西算”工程、新型基础设施等国家政策规划出台,我国智算中心掀起建设热潮。当前我国超过30个城市正在建设或提出建设智算中心,整体布局以东部地区为主,并逐渐向中西部地区拓展。

北京、上海、广州等数字经济发达地区也出台了政策推进智算中心建设。比如,北京市提出“新建一批计算型数据中心和人工智能算力中心,到2023年,培育成为人工智能算力枢纽”;上海市提出“布局建设一批具有高性能、高吞吐的人工智能算力中心,推动公共算力服务平台建设”等。

就在2月13日,北京发布《2022年北京人工智能产业发展白皮书》,提出北京将支持头部企业打造对标ChatGPT的大模型,着力构建开源框架和通用大模型的应用生态。加强人工智能算力基础设施布局,加速人工智能基础数据供给。

贺仁龙建议,我国接下来对于智能算力的建设重点,可以加快强化算力统筹智能调度,并加强自主关键技术的建设,特别是高端芯片、计算系统、软件工具等领域的攻关和研发。

THE END
1.CHATGPT对算力的需求如何颠覆芯片的底层架构设计,存算一体,正是突破算力瓶颈、摆脱存储宽带限制的一条路径。关键词之一,是顺势。 大部分读者都知道,算法、算力和数据是大模型时代的三大基础要素,ChatGPT引爆了算力要求的“核聚变”。当摩尔定律已经被逼近物理极限,如何突破算力瓶颈已成为业界重点突围的方向之一,因为模型计算量的增长速度,已经远http://www.hlwwhy.com/ask/6690483.html
2.ChatGPT价格里掩盖的算力分布秘密新程序员【导读】当前,大语言模型的商业化持续进行,本文聚焦这一变革背景下的 ChatGPT 定价机制,深入剖析其核心技术内涵。通过细致研究 ChatGPT-3.5 turbo 采用的 Decode-Only 架构,作者系统地探讨了模型在接收到输入提示并生成相应输出的过程中,如何差异化利用 GPU 算力资源,进而阐明了支撑该定价策略的独特技术原理。 https://blog.csdn.net/dQCFKyQDXYm3F8rB0/article/details/136265725
3.投资者提问:CHATGPT时代来临,对算力要求将巨幅提高,请问公司在CHATGPT时代来临,对算力要求将巨幅提高,请问公司在提高算力上有什么技术吗? 董秘回答(网宿科技SZ300017): 投资者,你好。公司自成立来坚持深耕数字经济基础设施层与平台层,包括数据中心,混合云和云管平台,CDN,云安全及边缘计算平台等。通过提供计算、存储、网络及安全等新一代信息技术服务,助力互联网客户、政府及企业https://finance.sina.cn/stock/relnews/dongmiqa/2023-03-09/detail-imykhfhw9958631.d.html
4.ChatGPT服务器,深度拆解AI大模型训练需求火热,智能算力规模增长有望带动AI服务器放量。 ChatGPT发布之后,引发了全球范围的关注和讨论,国内各大厂商相继宣布GPT模型开发计划。据各公司官网,2023年2月7日,百度宣布将推出ChatGPT类似产品“文心一言”,预计今年3月展开内测;2月8日阿里宣布阿里版ChatGPT正在研发中,目前处于内测阶段;2月9日,字节https://www.51cto.com/article/747956.html
5.ChatGPT正在榨干算力,如何打赢这场算力攻坚战?互联网在这之中表现最为亮眼的,莫过于从GPT-3迭代而来的ChatGPT,2022年底一出世就博得全球目光,无论是在模型预训练阶段,还是模型被访问阶段,ChatGPT都对算力提出“史无前例”的要求。 在模型预训练阶段,从GPT-1到GPT-3,从GPT-3 Small到GPT-3 175B,对算力的需求呈指数型增长。 https://news.iresearch.cn/yx/2023/03/463121.shtml
6.关于ChatGPT的五个最重要问题iPhone的交互方式和各种传感器,让iPhone慢慢变成了人类的身体的一部分,一个带来更多信息,高效交互的器官。ChatGPT已经接近目前人类调用算力和数据的最终极形态了,其应用方式本身当然是足够厉害的。我们在第二问,ChatGPT会取代哪些工作里,详细展开。 这里也牵涉到了一个重要的题外话,我们在讨论中发现,很多资深AI从业者,http://www.360doc.com/content/23/0317/18/1072439854_1072439854.shtml
7.令小雄王鼎民袁健:ChatGPT爆火后关于科技伦理及学术伦理的冷ChatGPT 能讲“人话”是基于 OpenAI 公司开发的一个 GPT-3.5 架构的大型语言模型,通过强化学习训练人工智能聊天机器人程序,能够广泛应用于业界和客户服务,基于 Transformer 架构的强大算力的语言模型,具有深度学习特质,葆有出色的语言理解和文本对话生成能力,ChatGPT 的语言理解和生成水平的便捷性能够更快更好地回答http://fzzfyjy.cupl.edu.cn/info/1035/15631.htm
8.中金:ChatGPT启新章,AIGC引领云硬件新时代一般服务器/存储器对于PCB的需求普通的多层板为主,随着ChatGPT大模型这类需要海量数据应用的发展,对算力的要求越来越高,对于大容量、高速、高性能的云计算服务器的需求将不断增长,对PCB的设计要求也将不断升级,提升对于高层数、大尺寸、高速材料等的应用。https://wallstreetcn.com/articles/3682574
9.一文读懂ChatGPT,你想知道的都在这里目前,百度宣布进军AIGC赛道,依托数据、算法和算力,全力打造AIGC产品“文心一言”,有利于为我国舆论安全保驾护航。 ? 完善监管机制,加强AI层面立法 首先,事前建立市场准入标准,由网信办牵头,成立人工智能风险评估委员会,综合评估ChatGPT进入市场后可能引发的风险,要求人工智能公司严格遵守各项运营要求。其次,事中应当https://weibo.com/ttarticle/p/show?id=2309404906876851847170
10.实测:ChatGPT的翻译能力怎么样?雷峰网另外,研究人员在Tp2中增加了一个额外命令,要求ChatGPT不要在翻译的句子上加双引号(在原始格式中经常发生)。尽管如此,ChatGPT依旧不稳定,如会将同一批次的多行句子翻译成单行。 图2:候选翻译提示 研究人员将三种不同的候选prompt与Flores-101的测试集在汉译英任务中的表现进行比较,图3显示了ChatGPT和其他三个翻译https://m.leiphone.com/category/ai/GftWDAq4bFtBelft.html
11.ChatGPT第二、遏制用户滥用政策。不允许文本要求生成暴力、成人或政治内容等视频。如果我们的过滤器发现可能违反我们政策的文本提示和图片上传,ChatGPT就会采用自动化和人工监控系统予以拒绝。 OpenAI认为:负责任的开发和安全监管是人工智能的重要组成部分,让用户对ChatGPT安全系统有信心。 https://www.jianshu.com/p/805abc3dcaae