专家深度:我们用4万字告诉你ChatGPT到底是什么(上)

作为星船知造“现代通信与智能网技术展望”系列栏目的第一辑,我们邀请星船知造的资深读者、通信行业教授级高级工程师钱鸿生博士为我们撰写了《ChatGPT技术架构及中国人工智能未来发展趋势报告》。

报告正文共3.8万字,在介绍了ChatGPT的进化历程、主要内涵、底层技术架构与逻辑后,主要分析中美现阶段在AI领域的竞争优势与差距,提出ChatGPT潜在的商业价值和对资本市场影响的风险管控警示。并分析了算法和算力以及芯片技术,对我国人工智能AI发展的制约与影响,最后切入我国AI产业结构调整、建立AI法律保护与系统安全的视角,对发展我国人工智能产业提出一些前瞻性的趋势分析和研判。

我们将节选出报告中部分内容,在星船知造公众号分上、下两篇发布。

今天的上篇主要聚焦第一章《ChatGPT的含义与OpenAI公司概况》中的“ChatGPT的基本功能模块”;

第二章《ChatGPT的内涵与底层技术架构》中的“ChatGPT的DALLE2自然语言转换成像技术”、“人工智能AI芯片的重要意义”、“人工智能中的算力单位pfs-day”等章节中的部分内容。

同时节选第三章《ChatGPT的潜在商业价值与市场动态》中的“国内投资者和厂商对ChatGPT的反应”、“ChatGPT可能影响的行业初探”等章节中部分内容。

ChatGPT含义与OpenAI公司概况

ChatGPT全称为“ChatGenerativePre-trainedTransformer”,Chat是聊天,GPT是“生成型预训练变换模型”,可以翻译为“聊天生成预训练转换器”或简称“优化对话的语言模型”。

作为一款建立在云计算、海量数据库、人工智能算法架构和深度神经网络基础之上开发的聊天机器人程序,ChatGPT不像传统的搜索引擎一样复制、粘贴、拼凑网上已有的信息给你。它的回答是有逻辑的、生动的,有上下文关联的。

ChatGPT聊天机器人目前支持几乎世界上所有的语言输入。有人说未来它会像《流浪地球》系列电影中的智能量子计算机MOSS,不仅拥有超强算力,还有自我意识、自我迭代、自我更新的特点,最终演化出有思维的人工智能。

或许MOSS已经离我们不远了。

OpenAI官网发布的ChatGPT系统界面

OpenAI初期是从事人工智能研究的非营利化组织,公司初期宗旨和使命是确保通用人工智能(ArtificialGeneralIntelligence,AGI)在大多数具有经济价值的工作上超越人类。建造出安全的、符合共同利益的通用人工智能,也希望能预防人工智能的灾难性影响,推动人工智能技术发挥积极作用。

同时也针对谷歌在搜索引擎业务领域形成的垄断优势,利用人工智能技术展开全面对抗。

OpenAI发展里程碑

2019年3月:OpenAl向资本市场开放,引入战略投资者微软公司,随后宣布从非营利性质过度到封顶营利性质,利润上限为任何投资的100倍。创立了OpenAlLP公司。

2020年6月:OpenAI宣布了GPT-3语言模型,发布了第一个产品OpenAl-API,从此OpenAl公司开始了正式商业运作。

2022年12月:OpenAI在微软资助下,发布了人工智能模型,开发出了最新款人工智能产品,取名为ChatGPT。2个月后,ChatGPT的全球活跃用户突破了1亿。

2023年2月2日:OpenAI宣布推出ChatGPTPlus订阅服务,可以让用户在高峰期优先使用人工智能聊天机器人ChatGPT。

OpenAl还有两个不为人知的小故事。其一关于马斯克与OpenAI的历史渊源。

马斯克实际上是OpenAI创始人之一。2015年马斯克联合LinkedIn创始人、YCombinator总裁及PayPal创始人等共同宣布创立OpenAI公司,目标说是打造属于全人类的、开放的AI组织,其定位是非营利性的,不过在2018年马斯克突然离开OpenAI。

外界传闻有两个版本:

一是特斯拉公司也在研究AI,与OpenAI在研发方向上有冲突,马斯克因此退出了董事会,但继续担任了OpenAI公司的顾问。

二是马斯克挖走了当时刚从斯坦福大学博士毕业后加入OpenAI的天才少年安德烈,安德烈的研究方向为计算机视觉,主攻图像识别和理解,当时马斯克的特斯拉也需要这样的人才。于是马斯克请这位安德烈去解决特斯拉的问题,为此OpenAI公司一气之下把马斯克“踢”出董事会。

图源:维基百科

其二关于安德烈。出生于捷克斯洛伐克的安德烈全名安德烈·卡帕斯(AndrejKarpathy),作为ChatGPT发展中的重要人物,是位“85后”。29岁时在斯坦福大学拿到博士学位。读博期间,他两次到谷歌公司做毕业实习。

博士毕业后,安德烈2016年加入了当时刚成立一年的OpenAI,是OpenAI创始团队的成员之一,只不过工作一年多后,就被马斯克挖到特斯拉去了。

他被马斯克迅速提升,接管了整个人工智能开发团队的软件部分,并和负责硬件的PeteBannon携手主导了特斯拉车控智能软件开发。在此之后,他还接管了擎天柱人形机器人、特斯拉超算系统Dojo的开发,可以说是马斯克手下最为重要的人工智能领军人物。

特斯拉人形机器人图源:Tesla官网

2022年7月安德烈突然离开特斯拉,回归OpenAI。

安德烈在自己的推特账号上轻描淡写说道:“我和许多其他人一样,不管是处于AI圈的还是非AI圈,都被OpenAI的成果鼓舞感动了。我相信这家公司未来的潜力非常大,因此很高兴重新投入到其中来。”

OpenAI很多人对安德烈7年后重新回到公司充满了期待,给予他“让CharGPT再次伟大(MakeChatGPTGreatAgain)”的厚望。

无论何时,在AI人工智能领域的人才争夺都是如此激烈。

1.2.ChatGPT主要功能

OpenAI官网上说:我们已经训练了一个名为ChatGPT的优化对话的语言模型,它以对话方式进行交互。

对话形式使ChatGPT能够回答后续问题、承认错误、挑战不正确的前提并拒绝不适当的请求。ChatGPT经过训练以遵循提示中的指令并提供详细响应。

和曾经的人工智能是“让计算机在固定场景下干固定的事”这个范畴不同,ChatGPT面对的是一个“openworld”。全球目前上亿用户向它提问的问题是不可预知的。这恰恰是AI开发的难点。

ChatGPT目前系统功能主要是文本生成、聊天机器人、语言问答、语言翻译、自动文摘、绘画功能、编程功能、视频生成等八大功能模块所组成。如下图所示:

星船知造为您逐一稍作展开——

1.2.1文本生成

ChatGPT的文本生成功能可根据人们的提问,生成可读的各种文本。文本生成功能通常用于生成新闻、博客、报告等内容。也可用于生成代码、诗歌、小说等各种不同类型文本。

下图为星船知造编辑部让ChatGPT写一篇“关于中国充电桩各主要生产厂商前景”的报道,然后,它写到一半卡住了

1.2.2聊天机器人

ChatGPT大型语言模型可以实时回答人们提出的各种问题,ChatGPT可以记住你之前跟它说话的过程与内容。

ChatGPT聊天机器人具有一定的记忆和思维判断功能,能根据对话内容,前后呼应且有一定的语言逻辑推演能力,这也是ChatGPT聊天机器人区别于之前一些人工语言处理系统完全不一样的地方。

1.2.3语言问答

ChatGPT的语言问答系统是应用人类语言处理技术,通过识别用户问题并匹配相应答案来回答问题。它通过对大量数据学习和深度分析,以及对语言和语法的深入了解,帮助用户快速找到所需的信息。

ChatGPT问答系统适用于售后服务与话务员应答、医疗咨询和教育等场景。可24小时连续不断地提供服务。

1.2.4语言翻译

ChatGPT的语音翻译是利用人工智能技术,将各国不同的文字和语言进行相互转换,可直接把文字转换成不同的语言。它通过使用计算机算法和语音数据库来生成语音合成,可用于语音导航、机器人语音交互、同声翻译、语音自动识别等应用。

1.2.5自动文摘

ChatGPT的自动文摘是一种利用人工智能技术,针对大量文本和视频内容进行简化、概括的技术。它通常采用机器学习和自然语言处理方法,识别文本中的关键信息,生成简明、准确的摘要。

1.2.6绘画功能

1.2.7编程功能

大多数开发场景中,特别是用户需求相对固定的场合,ChatGPT可以用来编写代码,检查代码语义的准确性,改进和简化人们的编程工作。

ChatGPT还可以帮助我们提高自己编程代码的质量和可读性,通过你提出的要求,它会逐行添加注释,可以确保代码在发布前得到正确记录,并使其他人更容易理解和使用代码。可提高代码可读性、可维护性和与他人协作的能力。

ChatGPT其实还有很多功能正在被开发与完善之中,有人把目前ChatGPT-3提供的功能细分为8大类60项功能,在此我们就不一一赘述了。

1.2.8视频生成

向ChatGPT提问对某一个产品或一个事件的描述,ChatGPT会送出一份文档,你可以对文档稍作修改,要求ChatGPT直接将文档转换成视频。

图源:unsplash

除此之外,ChatGPT可以被用于智能助手,智能客服等领域。

总之,ChatGPT的出现,为人工智能技术的发展带来了新的思路和技术支持,在数据处理、自然语言处理以及其他领域的应用前景广阔。

ChatGPT的内涵与底层技术架构

有人把ChatGPT理解为一个简单的搜索引擎功能,认为其工作原理就是把2022年以前网络中已有的数据,加工整理后推送给客户。人们认为ChatGPT只要建立一个足够大的数据存储空间,把所有的信息存放在里面,然后进行检索,就可以实现文本问答和聊天机器人功能了。

其实ChatGPT的工作原理并不是那么简单,比一般人理解的程度要复杂很多,这里面涉及生成性预训练变换模型和很多关键核心技术和底层逻辑。

2.1ChatGPT生成性预训练变换模型

前文我们在介绍ChatGPT的含义时已经介绍过,ChatGPT的全称为“ChatGenerativePre-trainedTransformer”,翻译成中文就是生成型预训练变换模型。在此之前,一般所谓的人工智能、机器学习、聊天对话软件在很大程度上都是局限于观察、分析和内容分类以及图像识别。

而以ChatGPT为代表的生成性人工智能AI是一项技术上的突破,它可以生成新内容,而不仅限于分析现有的数据。它的技术核心是生成性的人工智能。

从ChatGPT字面上来看,Chat是聊天的意思,但GPT才是关键。

第一个字母G是Generative,属于生成性的人工智能,在这以前的人工智能都局限在观察分析现有内容,但这次ChatGPT是个突破,它可以根据我们的需要,创造生成全新的内容。

第二个字母P是Pre-trained的缩写,预训练的意思。表示这个模型已经在某些有限的数据集上进行了预训练,ChatGPT在与人的对话中几乎接近正常人的交流,就是因为它已经接受过海量数据的训练,而这些数据就是我们人类2022年以前发布在互联网上的内容(目前版本的ChatGPT还不具备网络数据实时更新功能)。

由于ChatGPT目前还没有实现网络的实时连接,因此回答问题的时效性受到一定的限制。

ChatGPT在正式发布前,已经进行了大量的监督学习和通过人类反馈强化学习,所以我们在使用它的时候,这个模型能准确快速地生成对话内容。

第三个字母是Transformer,翻译过来就是转换器,这是ChatGPT底层人工智能学习的一个算法架构。

ChatGPT严格意义上来说就是一种基于Transformer的自然语言处理模型。采用了预训练加微调的方法,通过对大规模语料库进行预训练,对标注数据进行微调,从而使模型能够适应特定的自然语言处理任务,拥有语言理解和文本生成能力。

2.1.1ChatGPT的演进过程

第一阶段:GPT-1发布

2018年6月,OpenAl第一篇论文《ImprovingLanguageUnderstandingbyGenerativePre-Training》通过生成式预训练来提高语言理解能力的论文中提出了第一个模型GPT-1。从这篇论文中得出的关键结论是,Transformer架构与无监督预训练的结合产生了GPT-1,加上有监督微调方式,针对特定任务进行预训练,实现了强大自然语言理解能力。

第二阶段:GPT-2发布

2019年2月,OpenAI发表了第二篇论文《LanguageModelsareUnsupervisedMultitaskLearners》,推出了GPT-2。GPT-2是一种自然语言生成模型,其设计目标是生成与人类语言相似的文本,可以完成多任务处理。

第三阶段:GPT-3发布

第四阶段:GPT-3.5发布

2022年11月29日,OpenAI发布了一个命名为“text-davinci-003”(文本-达芬奇-003常称为GPT3.5)的新模型。它以对话方式进行交互,既能够做到回答问题,也能承认错误、质疑不正确的前提以及拒绝不恰当的请求。

2.1.2ChatGPT的预训练加微调

所谓的ChatGPT预训练,是一个基于transform模型的预训练语言模型,它的训练逻辑如下:

然后是对数据预处理,对语料进行处理,把它们分割成许多独立的句子或段落,对每个句子进行分词。分词后把每个单词转换成数字,生成一个数字序列,然后构建成数字词典。

训练就是使用这些数字序列用transformer模型进行模拟场景试验,需要投入大量的人工干预,并使用监督学习的方式对预训练模型进行微调。根据奖励模型优化策略,然后生成输出,ChatGPT的预训练绕不开正向传递,反向更新,梯度收敛,预训练模型降低了获取更高水平人工智能的成本。

2.1.3ChatGPT的Transformer转换器

ChatGPT的核心技术之一是Transformer转换器,Transformer技术是近几年人工智能技术最大的亮点之一,由谷歌的人工智能的团队“谷歌大脑”首先发布。

这种模型是使用一种叫自注意力的机制(selfattentionmechanism),它允许模型在进行预测的时候,可根据语言序列的任何位置,为输入数据的不同部分赋予不同的权重,并支持处理更大的数据集。

Transformer的精度和性能上都比之前流行的CNN(卷积神经网络)、RNN(循环神经网络)等模型,大幅提升了模型训练的效果,让人工智能在更大模型、更多数据、更强算力的基础上进一步增强运算能力。此外,还具有很强的跨模态处理能力,不仅在NLP(自然语言理解)领域表现优异,在语音、图像方面也显示出了优异的性能。

Transformer是ChatGPT语言模型的核心技术,是一种用于序列到序列(Sequence-to-Sequence)任务的神经网络模型,例如机器翻译,语音识别和生成对话等,它使用了注意力机制来计算输入序列和输出序列之间的关系。如下图所示

未完待续

下篇将节选出“ChatGPT发布后国内主要企业的反应”——包括“我国各地区人工智能发展的现状”等。以及第四章《ChatGPT对资本市场影响的分析与研判》和第五章《我国未来人工智能发展的展望》中部分核心内容和观点。

我们也将继续推出“现代通信与智能网技术展望”系列专栏。

THE END
1.chatgpt是什么的缩写ChatGPT是是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型,一款人工智能技术驱动http://chatgpt.kuyin.cn/ask/2250613.html
2.chatgpt缩写什么意思ChatGPT的名字是什么意思 ChatGPT是由Chat(聊天)和GPT(Generative Pre-trained Transformer,即生成式预训练变压器)两个词组成的缩写。它指的是一种利用深度学习技术预训练的自然语言处理模型,能够生成高质量的自然语言文本。因此,ChatGPT的名字可以理解为“聊天生成式预训练变压器”,表明它是一种能够进行聊天交互并生成https://wenku.csdn.net/answer/8b07539ee55611edbcb5fa163eeb3507
3.chatgpt怎么读chatgpt是什么chatgpt怎么读 chatgpt是什么 【资料图】 1、chatgpt的读法是:ttgput。 2、chatgpt是一个合成词,chat是指交谈的意思,gpt是GUID Partition Table的缩写,是指全局唯一标示磁盘分区表格式。 3、chatgpt是美国openai公司发明的一种智能聊天机器人。chatgpt全称为“chat Generative Pre-trained Transformer”,http://www.ribao.cwan.com/zixun/2023/0405/30062.html
4.为什么ChatGPT要叫GPT?GPT是什么?腾讯云开发者社区那GPT 呢? 假如你过去不曾接触过AI 的领域,你可能会对GPT 这个词感到陌生。所以你可能会好奇,为什么ChatGPT 要有GPT 这三个字? 而GPT 这三个字是又是什么意思呢? 让我们在这篇介绍。 为什么叫GPT? GPT 是Generative Pre-trained Transformer 的缩写,意即生成式预训练的Transformer 模型(因为Transformer 为专有https://cloud.tencent.com/developer/article/2381891
5.1分钟告诉你爆火的ChatGPT是什么意思自媒体教学春节后ChatGPT一夜爆红。那么ChatGPT究竟是怎么爆红呢?ChatGPT又是什么意思?ChatGPT究竟能给我们带来什么?ChatGPT国内可以使用吗?下面就一起来了解一下什么是ChatGPT吧~ 一、ChatGPT是什么意思? ChatGPT全称:chat Generative Pre-trained Transformer 在英文中“chat”是聊天的意思,GPT是一种预训练语言模型的缩写。所https://www.shangyexinzhi.com/article/7301772.html
6.ChatGPT:Chat是聊天,GPT是GenerativePre【ChatGPT:Chat是聊天,GPT是Generative Pre-trained Transformer的英文缩写,人工智能、AIGC这个方向值得关注】 转自网络, 据此投资,盈亏自负! 1、ChatGPT是2022年11月30日OpenAI推出的一款对话式AI模型,是其GPT系列新作,功能更全面&更类人,潜在应用空间更为广泛。 https://xueqiu.com/9689537360/240757992
7.一文读懂什么是AIGCChatGPT大模型本文将力求简单化的说明这次人工智能浪潮带来的新词汇和它的意义,带你一文读懂什么是AIGC、ChatGPT、大模型。 1、什么是AI AI,人工智能(Artificial Intelligence)的英文缩写。 AI是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 https://www.ofweek.com/ai/2023-05/ART-201700-8500-30596590.html
8.最近火爆全网的ChatGPT到底是什么?ChatGPT到底是什么呢? ChatGPT全称:chat Generative Pre-trained Transformer,是OpenAI开发的人工智能聊天机器人程序,于2022年11月推出。 在英文中“chat”是聊天的意思,GPT是一种预训练语言模型的缩写。所以ChatGPT是一款功能非常强大的AI(人工智能)聊天机器人,能做很多的事情。比如它能够通过学习和理解人类的语言来进https://www.jianshu.com/p/5cea26900c09
9.ChatGBT:ChatGPT的常见拼写错误如何避免混淆:正确输入 ChatGPT 的提示 避免混淆并确保正确使用 ChatGPT 的另一种方法是遵循这些键入提示。这可以帮助您避免像 ChatGBT 这样的拼写错误,并确保您使用正确的名称和拼写。 以下是正确输入 ChatGPT 的一些提示: 记住缩写 ChatGPT 代表聊天生成预训练变压器。此首字母缩略词可以帮助您记住聊天机器人的名称https://m.10100.com/article/23580
10.如何在ChatGPT上使用GPT4?(GPT4是什么?)电脑知识什么是 GPT-4? GPT-4 是Generating Pre-trained Transformer 4 的缩写,是 OpenAI 开发的大型语言模型 GPT 家族的第四次迭代。它是 GPT-3 模型的继承者,后者为病毒式 AI 聊天机器人 ChatGPT 提供支持。GPT-4 与其前身 GPT-3 一样,旨在生成类似人类的文本,完成摘要和语言翻译等任务,甚至生成诗歌、音乐歌词和http://www.dnpz.net/diannaozhishi/6145.html
11.ChatGPT热度飙升人工智能再临风口投资机会怎么看?兔年开年以来,ChatGPT概念热度飙升,推动AIGC和人工智能板块大涨,站上了A股的风口浪尖。 有朋友跟挖掘基吐槽:前段时间爆火的AIGC还没弄明白,ChatGPT又横空出世了,不愧是大A,不管有没有赚上钱,但基民、股民总能紧跟科技前沿,再收获满腹知识~ 言归正传,大热的AIGC和ChatGPT概念具体是什么意思?是短期炒作还是长期机https://wap.eastmoney.com/a/202302082630467128.html
12.ChatGPT基础知识普及ChatGPT是什么 ChatGPT是一种基于人工神经网络的自然语言处理技术,它是由OpenAI研发的一种预训练语言模型。GPT是"Generative Pre-training Transformer"的缩写,是一种无监督的预训练模型,可以通过大量的文本数据学习自然语言的语义、语法和结构规律。ChatGPT是在GPT模型的基础上,通过对大量对话语料进行训练,从而具备了生成https://www.niaogebiji.com/article-550400-1.html