复旦邱锡鹏:中国版ChatGPT“火”了之后,MOSS接下来要拼的是“算力”

3月2日,OpenAI在官方博客宣布开放ChatGPT的模型API。同一天,上海市智能信息处理重点实验室,复旦大学计算机学院邱锡鹏教授MOSS团队官方公开宣布研究成果将会开源。

邱锡鹏向上海科技介绍:

目前,从参数规模维度来看,

MOSS是百亿级规模,

ChatGPT是千亿级规模,

但人脑应该是百万亿规模。

所以和人脑相比,

无论MOSS还是ChatGPT,

复杂度都还是不够。

“大模型规模进一步扩大的话,就需要更多的算力。无论ChatGPT还是MOSS,最终考验的可能还是芯片和算力。”

邱锡鹏说:“除了大算力的支撑,接下来,大规模资金投入以及多场景应用对MOSS的发展也至关重要。”

“就像人的大脑一样,

MOSS有举一反三的能力”

“MOSS其实春节前就开发出来了。”邱锡鹏介绍,目前,MOSS的底层架构已经完成,但还有扩大规模的可能。MOSS可以把网络结构再放大,相当于把人工神经网络做得更大。

“MOSS没有任何类似传统的数据库或网络基础,它也没有后台,就是一个模型,由一堆参数决定。”

ChatGPT模型给我们展示出很多的AI技术做不到的能力,特别是通用智能能力,让人们看到了AI技术迈向通用人工智能的一种希望。

所以在ChatGPT之前,通用人工智能实际上是在AI中的远景,大家其实做的还是所谓的“弱人工智能”。

与上一次人工智能现象级的产品AlphaGo相比,MOSS更像人,因为具有了举一反三的能力,而这是传统的AI模型里比较弱的一项能力。但对于大模型来说,举一反三的能力特别强,很多问题只要人简单描述一下,它就懂了。

“MOSS会有自己的判断,

你可以和它交互”

其实大模型语言模型很早就出现了,但它一直只是在研究界被当成模型来用,而没有赋予它直接可以听懂人类指令以及和人交互的能力。

在邱锡鹏看来,ChatGPT模型的学习能力特别强,这是学术层面的感受,此次火爆出圈,更多是因为ChatGPT赋予了AI模型与人类交互对话的能力,让大众也能直观感受到AI模型的魅力。

对话只是现在的ChatGPT模型表现出来的基本功能之一。

其实它的功能远远不止对话。

你可以用它来完成各种各样的事,比如用ChatGPT做翻译,写摘要,改错字,构建知识图谱,他也会写程序,也可以去接入物理世界等等。

“我觉得将来ChatGPT肯定会很快和现实世界打通”

“MOSS不仅能和你对话,理解你的意思,将来还能做出自己新的判断。你可以想象,在一个智能家居系统里,在所有的家电都是有API接口的情况下,把这个权限放给MOSS,他就能操控一切。”

目前,国内的ChatGPT模型应用场景其实非常丰富,下游的数据也比较多。MOSS可以应用到各行各业,特别是一些垂直化、专业化的应用。

ChatGPT时代,是一个大的生态系统。在未来,其实ChatGPT模型更像操作系统层。

ChatGPT大模型是比较烧钱的。

OpenAI每年的花费是大概5亿美元,

主要用于支撑高密度的人才团队。

目前MOSS采用的还是英伟达的算力方案。

我们希望国产芯片也能够同步支撑发展。

于大众而言,无论是ChatGPT,还是被称为中国版ChatGPT的MOSS,这些人工智能模型仿佛一夜之间涌现,但对于从2000年互联网时代就选择了人工智能研究方向的邱锡鹏来说,通用人工智能时代的到来是早晚的事,只不过来得比想象中更快更早。

THE END
1.CHATGPT和算力有什么关系算力对于CHATGPT的训练、模型规模和推理速度都有一定的影响。较大的算力可以提供更快、更高质量的训练http://www.hlwwhy.com/ask/6709750.html
2.今天chatgpt一天都不行,算力还是不够啊今天chatgpt一天都不行,算力还是不够啊 全部讨论 在市场里价值投机 52分钟前 a股ai股价已经反应了,美股有点迟钝还没跟上 我爱水煮鱼 41分钟前 刀哥用付费的还是免费的 守正1997 57分钟前 豆包也是,今天这些平台出什么问题?被攻击了? 贝塔猪 今天22:05 https://xueqiu.com/9089343523/314558213
3.ChatGPT+电力:引领智能的革命ChatGPT算力和算法取得了哪些突破?ChatGPT究竟给企业带来哪些商业价值和市场机会?ChatGPT有哪些优势与不足?ChatGPT有哪些典型应用场景?ChatGPT应用遇到哪些数据安全、知识产权、风险管控的挑战?ChatGPT将给电力行业带来哪些发展机会与挑战?ChatGPT+电力将会带来哪些应用场景?数字化、智能化与电力能源化革命将会带来哪些http://www.boraid.cn/training/training_show_221954.html
4.ChatGPT的爆火,可离不开算力!戴尔科技集团chatgpt人工智能顶部 首页首页 ChatGPT的爆火,可离不开算力!戴尔科技集团 chatgpt 人工智能 2024-11-27 00:00 · 0次播放 发布于:江西省 拳击那点事 +订阅 +1 评论 全部 还没有人评论过,快来抢首评 写评论相关推荐 查看更多精彩内容 https://m.sohu.com/a/830759879_100114195
5.ChatGPT价格里掩盖的算力分布秘密新程序员【导读】当前,大语言模型的商业化持续进行,本文聚焦这一变革背景下的 ChatGPT 定价机制,深入剖析其核心技术内涵。通过细致研究 ChatGPT-3.5 turbo 采用的 Decode-Only 架构,作者系统地探讨了模型在接收到输入提示并生成相应输出的过程中,如何差异化利用 GPU 算力资源,进而阐明了支撑该定价策略的独特技术原理。 https://blog.csdn.net/dQCFKyQDXYm3F8rB0/article/details/136265725
6.ChatGPT行业报告:算力.pptx演讲人:日期:ChatGPT行业报告:算力目录引言ChatGPT行业概述算力技术发展算力在ChatGPT中应用算力市场需求与供给算力基础设施建设与运维算力成本、效益及投资回报结论与展望01引言本报告旨在深入探讨ChatGPT行业中的算力问题,分析其对ChatGPT技术发展和应用的影响,以及未来算力需求和趋势。目的随着人工智能技术的快速发展,Chathttps://www.renrendoc.com/paper/362740549.html
7.ChatGPT正在榨干算力,如何打赢这场算力攻坚战?互联网除了架构创新,芯片本身的升级迭代也非常重要。作为基石的底层芯片,需要足够“大”,AI大算力应用才能高楼平地起。 (ChatGPT研究框架 图源:浙商证券) 那么AI大算力说的“大”到底是多大? 以2020年发布的GPT3预训练语言模型为例,采用的是2020年最先进的英伟达A100 GPU,算力达到624 TOPS。2023年,随着模型预训练阶段模型https://news.iresearch.cn/yx/2023/03/463121.shtml
8.千亿巨头发布能力超ChatGPT?算力硬件由华为提供算力硬件由华为提供 摘要 【千亿巨头发布 能力超ChatGPT?】“俗话说‘男子汉大丈夫宁死不屈’,但是俗话又说‘男子汉大丈夫要能屈能伸’,请问这两句话怎么理解?”“如果一个小伙子跟女朋友吵架了,他应该宁死不屈还是能屈能伸?”科大讯飞大模型对上述有些刁钻的问题做出了“高情商”回答:星火大模型不偏不倚地回复https://finance.eastmoney.com/a/202305072714140597.html
9.ChatGPT服务器,深度拆解ChatGPT算力需求场景包括预训练、Finetune及日常运营。从ChatGPT实际应用情况来看,从训练+推理的框架出发,我们可以将ChatGPT的算力需求按场景进一步拆分为预训练、Finetune及日常运营三个部分: 1)预训练:主要通过大量无标注的纯文本数据,训练模型基础语言能力,得到类似GPT-1/2/3这样的基础大模型; https://www.51cto.com/article/747956.html
10.ChatGPTPlus突然停售,业内:微软算力不够ChatGPT Plus突然停售,业内:微软算力不够 钛媒体App 4月6日消息, ChatGPT官网停止Plus付费项目的购买。在升级界面,OpenAI表示“因需求量太大暂停了升级服务”。业内分析是微软算力不够了,运算越来越慢,所以暂缓注册。(中国基金报) *该内容仅供参考,不构成投资建议。请谨慎对待。https://m.tmtpost.com/nictation/6477388.html
11.杨元庆谈ChatGPT:需要普慧算力作为基础设施新浪科技讯 2月24日上午消息,在联想创投CEO年会上,联想集团董事长兼CEO杨元庆表示,ChatGPT火爆全球,其背后所需要的普慧算力基础设施恰好是联想已经布局多年的强项。 杨元庆称,打造“技术联想”一直是联想的创业初心。面对全球政经环境的变幻,面对技术和产业周期的日新月异,坚持用技术创新驱动发展,才能增强穿越周期的续https://laoyaoba.com/n/850108
12.智慧能源系列专题报告(一):算力篇:从CHATGPT看算力增长对电力行业的影本篇报告分析了ChatGPT 引发人工智能算力增长背后数据中心(IDC)需求增长对电力市场的影响,以及“双碳”和“东数西算”背景下“绿色IDC+一体化清洁能源基地”协同发展的必然性和可行性。 人工智能兴起、数字经济发展带动算力增长,智能算力、IDC 用电需求增长可观:ChatGPT 再次引发全世界对人工智能关注热潮,人工智能发展https://stock.hexun.com/2023-03-23/208058233.html
13.为你喝彩ChatGPT火爆?原来背后有强大的算力芯片!为你喝彩|ChatGPT火爆?原来背后有强大的算力芯片!北京卫视为你喝彩 2023-05-17 11:07:18 + 关注浏览1071次 打开App阅读全文 公安部:迅速查明珠海驾车冲撞行人案件,依法严惩凶手 三部门:因地制宜将酒店电视终端纳入当地消费品以旧换新补贴范围 中央气象台发布大雾黄色预警:北京河北等地部分地区有大雾 三部门有关https://m.btime.com/item/router?gid=47284duldr69tb84utj299b2358