没有算力平台,数字经济将“不复存在”?中国本土的AI芯片到底行不行? 今年以来,随着ChatGPT和人工智能(AI)大模型引发热潮,大模型产品层出不穷。随之而来的是对 AI 算力的需求,也出... 

如今,大算力底座已成为AI大模型发展的“标配”。

(图:国内GPU公司天数智芯在WAIC2023上展示的板卡产品)

7月6日-8日举行的2023年世界人工智能大会(WAIC)昇腾分论坛上,华为轮值董事长胡厚崑表示,伴随大模型带来的生成式AI突破,AI正在进入一个新的时代。算力是AI产业创新的基础,大模型的持续创新,驱动算力需求的爆炸式增长。可以说,大模型训练的效率或者是创新的速度,根本上取决于算力的大小。中国的算力已经成为一个越来越稀缺的资源。

本届WAIC上,华为推出首个昇腾万卡AI集群。截至目前,昇腾AI集群已支撑全国25个城市的人工智能计算中心建设。据悉,昇腾AI原生孵化和适配了30多个大模型,目前中国有一半左右的大模型创新,都是由昇腾AI支持。

与华为昇腾不同,国内通用GPU公司天数智芯研发的天垓100芯片已经开始跑通多个大模型,包括智谱AI大模型ChatGLM,国外主流的LLaMA,以及北京智源研究院的Aquila等产品;而百度昆仑芯公司在今年6月披露,其产品矩阵已适配文心一言、ChatGLM、GPT等主流行业大模型。

“目前我们已经证明可以用了,不管他们的能不能买,或者卖不卖给中国,我们的产品现在已经在用起来了。”

基于目前国内AI大模型算力布局,无论是训练还是推理,AI大模型算力主要分为三派:

三是租用性价比更高的服务器云算力,补充算力不足情况。

那么,这么多的算力供应渠道,中国本土的AI芯片到底行不行?

据中国信通院数据,每1元的算力投入,可以带动3-4元的国家GDP(国内生产总值)经济产出,实现经济增长的倍增效应。麦肯锡则预测,生成式AI最终每年可为世界经济增加7.3万亿美元的价值。

而对于大模型企业来说,巨大的算力成本是首先要考虑的问题。

胡厚崑在开幕式上谈到,华为推出了对等平构架构,以突破传统以CPU为中心的异构计算带来的性能瓶颈,提升了整个计算的带宽,使得节点的性能可提升30%。同时,华为部署的昇腾AI集群实现10%的效率提升。

张平安指出,华为云在贵安、乌兰察布、安徽芜湖等地都建立了算力中心,训练效率领先于业界主流GPU的1.1倍,昇腾Al云服务整个算力达2000PFlops。

华为昇腾计算业务总裁张迪煊表示,基于昇腾AI,原生孵化和适配了30多个大模型,到目前为止,中国有一半左右的大模型创新,都是由昇腾AI来支持的。昇腾的生态也逐步发展壮大,有180万开发者在昇腾开发平台上工作;与300多所高校院所与昇腾开展合作,每年培养超过10万名专业的AI人才。

“现在大模型发展的核心三要素:算法、数据及算力,算力是底座。在6月9日,我们跟北京智源研究院,在北京发布了他们的AquilaCode-7B模型,用的就是我们天垓100这款产品在跑,这也充分体现了天数智芯产品的通用性。目前我们正在帮他们跑650亿参数的模型,预计10月份可以跑完。”盖鲁江表示,预计今年年底以及明年,天数智芯都会有新的产品推出来,而且对大模型算法做了硬件级优化。

如果不采用通用架构,客户进行平台切换门槛比较高。盖鲁江表示,天数智芯在第一阶段就走了一条兼容国际主流生态的路线,公司2022年全年确认收入在2.5亿元左右。“因为我是通用架构,基于我的硬件去做软件栈的开发,再在API接口层面兼容国际主流生态,这样其实让我们的下游客户能更方便地用起来,让他们的迁移成本很低。所以说在商业化这条路上,我们已经率先迈出了一步。”

今年7月7日获得中国互联网投资基金独家投资的通用GPU研发商上海登临科技,在WAIC现场展示了第二代通用GPUGoldwasser(高凛)系列产品。钛媒体App了解到,高凛二代已针对基于Transformer和生成式AI大模型进行专门优化,在性能有大幅提升,已于2022年流片,目前已开始规模化量产和商业客户验证。据现有客户测试结果,二代产品针对基于transformer类型的模型提供3-5倍的性能提升,大幅降低类ChatGPT及生成式AI应用的硬件成本。

例如,北京超级云计算中心官网披露,拥有超过50PFlops通用超算算力,超60万CPU核心数,超过20万算力用户;上海到2023年底,依托本市人工智能公共算力服务平台,接入并调度4个以上算力基础设施,可调度智能算力达到1000PFLOPS(FP16)以上;到2025年,上海市数据中心算力预计将超过18000PFLOPS(FP32)。

不过目前,国内AI算力、国产GPU芯片还存在制程工艺和产品规格限制、没有双精度浮点功能、没有CUDA这种完整生态、与其他芯片之间的解耦性较差、通信网络连接问题导致算力损耗高等挑战亟待解决。

启明创投合伙人叶冠泰表示,大模型时代,训练千亿参数、万亿参数的模型必不可少的就是算力,大模型参数规模的高速增长对GPU的能力不断提出更高的要求。大算力的GPU要支撑各种各样的模型,需要具备稳定性、扩展性、延迟控制、性价比等,展现出典型的“木桶理论”,而且大算力芯片的推广,需要整个上下游的生态支持。AI的时代已经到来,芯片公司需要和大模型公司紧密合作。

据毕马威和联想联手发布的报告数据显示,放眼全球,算力已成为各国科技战略布局重点。当前,美、中、欧、日基本稳居全球算力产业规模前四,美、中两国处在领先地位且中国算力规模增速明显领跑。各国算力投资或补贴计划均超千亿。

经初步测算,到2025年,数据中心、云计算、人工智能市场规模总计将突破2.5万亿元,算力核心产业规模将不低于4.4万亿元,关联产业规模可达24万亿元,成为与新能源汽车比肩的超万亿级高潜赛道。

THE END
1.一文读懂什么是“AI算力”(建议收藏)在当今快速发展的科技时代,人工智能(AI)已成为推动社会进步的重要力量。而AI算力,作为支撑AI技术发展的基石,其重要性不言而喻。本文将带您深入了解AI算力的概念、作用、发展趋势以及对各行业的影响。 一、AI算力的定义 AI算力,即人工智能计算能力,是指执行人工智能算法所需的计算资源和处理能力。它是衡量计算设备或https://blog.csdn.net/weixin_42994439/article/details/140961526
2.免费人工智能算力OpenI启智开源社区旗下的一站式AI开发协作平台,汇聚人工智能开源项目;提供代码托管、数据共享、模型训练等AI开发流水线功能;用户可在线使用鹏城实验室搭建的鹏城云脑、中国算力网的普惠算力,包含GPU、NPU等多样化加速资源。 启智AI协作平台,简称 启智社区 ,是一个开源在线Web应用,旨在为人工智能算法、模型开发提供在线协http://gitlab.c8hr.com/site/8845
3.人工智能算力中心.pptx算力中心概述人工智能算力中心 算力中心概述算力中心定义与功能1.算力中心是提供大规模计算资源的集中化设施,用于支持人工智能、高性能计算等应用。2.算力中心具备高性能、高可扩展性、高可靠性等特点,能够满足各种复杂计算需求。3.算力中心对于推动科技创新、促进经济发展具有重要作用。算力中心技术架构1.算力中心通常采用https://max.book118.com/html/2023/1225/8051140073006020.shtm
4.AI算力服务器超级大单中国电信采购总价超84亿AI服务器即能够提供人工智能(AI)计算的服务器。AI服务器按应用场景可分为训练和推理两种,其中训练对芯片算力要求更高,推理对算力的要求偏低。 此次中国电信的AI算力服务器采购规模高达84亿,一方面显示出运营商对于AI服务器设备的需求迅速增长。就布局来看,运营商在加速数据发掘与利用的同时,也在逐步扩大算力资本开支与https://insytone.com/index.php/node/2236
5.AI算力平台人工智能类大数据与人工智能产品联通云AI算力平台AICP是面向AI工程师的一站式开发平台,提供弹性的机器学习算力资源,提供模型构建和训练的全流程支持,为AI开发者降低开发成本,提升AI开发的效率https://www.cucloud.cn/product/aicp.html
6.AI算力加速之道51CTO博客AI算力加速之道 1 AI算力发展趋势 1.1 人工智能理论:深度学习 人工智能发展至今并非一帆风顺, 从起步阶段到现今的深度学习阶段,数据、算法和算力构成了人工智能三大基本要素,共同推动人工智能向更高层次的感知、认知发展。 1.2 第三次人工智能浪潮代表人物https://blog.51cto.com/u_15302993/5081919
7.AI算力云高速稳定弹性好用提供面向人工智能场景的资源与服务,提供 AI 裸金属 GPU 主机、 AI 训练集群、并行文件存储、镜像仓库等 AI 专用产品,租户隔离,提供安全、可靠的云上开发与训练环境。 立即使用产品文档 产品优势 史诗级算力 单节点 8 张 NVIDIA 数据中心卡,单机 NVSwitch 架构,结合高性能 CPU 为您提供强劲算力。 https://www.qingcloud.com/products/ai-computing-service/
8.AI算力公司人工智能工资待遇(招聘趋势,就业前景)AI算力公司人工智能招聘工资收入一般多少钱一个月? 69.7%岗位拿¥30-50K以上/月,年薪¥36-60以上。 按学历统计,大专工资¥7.0K。 按经验,1-3年工资¥32.8K。 就业前景怎么样?市场需求:2024年招聘职位43个,占AI算力公司0.365%。 最新招聘岗位职责工资收入 https://www.jobui.com/salary/quanguo-rengongzhineng/ind-aisuanli/
9.我国人工智能算力发展“风生水起”正在成为数字经济发展新动力最新数据显示,北京市人工智能核心企业数量超过1800家,排全国首位,这些企业对算力的需求量非常大。但之前北京市的人工智能算力设施多为科研机构或企业自用,没有余力向市场提供大规模算力服务。现在,有了这个平台,企业和高校、科研机构等无需自建算力基础设施,就能在云端直接调用算力,完成AI模型训练、高性能计算等工作任务https://m.gmw.cn/2023-12/14/content_1303601058.htm