本期是“芯科技”栏目第一期,文末有惊喜,千万别错过!
作为OpenAI研发的聊天机器人程序,支撑ChatGPT运转的可不是简单的一台机器,而是一个庞大的算力网络。这个算力网络可以抽象为三层:传输网络、计算网络和存储网络。如下图:
图:算力网络示意图
算力芯片对比
指标
GPGPU
CPU
FPGA
ASIC
算力性能
高
极低
较高
芯片成本
中
系统成本
低
功耗
能效比
通用性
强
无
算力精度
丰富
单一
算法适配
数据并行能力
差
适用场景
云端训练和推理
任务调度类
云边端推理
云边端训练和推理
图:算力芯片分类
综合而言,GPGPU是一款算力性能高,算力类型丰富,算法框架适配完全,数据并行能力强的算力芯片,更加适合当前多模态AI模型的发展。
在算力网络中,GPGPU芯片要发挥性能光靠自己可不行,需要系统的配合。在这个系统内:CPU负责任务调度;GPU负责主要的算力输出,也就是计算任务;内存负责数据暂存,配合GPU进行计算。
图:算力网络芯片分工示意图
图:HBM内存,示意图
图:内存技术发展
点击注册
作为是德科技“芯科技”系列第一期,我们特意为大家准备了精美的礼品抽奖,也欢迎大家留言,把你想学习的知识,你和是德科技的故事,一起告诉小编!
原文标题:芯科技,解密ChatGPT畅聊之算力芯片
长沙市望城经济技术开发区航空路6号手机智能终端产业园2号厂房3层(0731-88081133)
THE END