作为一个文科生+AIGC从业者+市场人，其实要搞懂ChatGPT等等晦涩的概念多多少少有些吃力，我想应该会有不少人也有这种感觉。
或者有很多非从业者想要了解ChatGPT到底会如何影响我们，或者有很多当爹当妈的被孩子问到却不知道怎么“幼儿园化”地把这些概念讲清楚。
我的理解是，这是一种高级的“翻译机器”，它能够理解和翻译不同语言之间的文本。为了帮助你更通俗地理解这个模型，我们可以将其比作一个有着超凡记忆力和注意力分配能力的多语言翻译家。
这个翻译家有以下几种能力：
想象这个作家在成长的过程中，没有老师直接告诉他哪些句子是正确的，哪些是错误的。相反，他通过阅读大量的文本，自己学会了语言的规则和模式。这就是GPT模型的自监督学习，它通过阅读大量未标记的文本数据，自己学习语言的结构和用法。
在写作时，这个作家只能根据他已经写好的内容来预测下一个字或句子，而不能提前知道后面的内容。GPT模型使用因果掩码来确保在生成文本时，每个单词只依赖于它之前的单词，保证了文本的连贯性。
什么是InstructGPT？
如果GPT-3想象成一个聪明的学生，那么InstructGPT则是这个学生经过特别辅导后的样子。
GPT-3这个学生虽然学习了很多知识，但有时候回答问题可能会离题、编造故事、或者带有一些不公平的看法。同时，他在进行长对话时，有时会忘记之前说过的内容，导致对话不够连贯。
为了让这个学生更好地理解老师（人类用户）的意图，并且按照老师的喜好来回答问题，我们需要一种方法来调整他的学习方式，这就是“Alignment”（对齐）的概念。
为了让GPT-3变得更好，我们给他请了一个特别的家教（RLHF），这个家教通过收集老师的反馈来知道哪些答案是好的，哪些是不好的。然后，家教用这些反馈来指导学生学习，帮助他在未来给出更符合老师期望的答案。
这个机器人图书管理员不仅知道很多关于书籍和文字的知识，它还能理解图片。所以，如果你给它看一张图片，它不仅能告诉你图片里有什么，还能根据图片给你讲一个故事或者回答你关于图片的问题。
如何理解这一概念？
我们用一个小学生也能理解的方式来解释这些概念。
想象一下，有一个非常非常大的学校，这个学校有很多层楼和很多教室。这个学校就像是一个“大模型”，它有很多老师（参数）和学生（数据）。这些老师非常聪明，他们可以教很多不同的课程，比如数学、语文、科学等等。
现在，这个学校有很多成功的毕业生，比如GPT-3、BERT和T5等。他们都是在这个大学校里学习过的，现在他们可以帮助人们解决很多问题，比如写作文、做数学题或者解答科学问题。
所以，这个大学校（大模型）就像是一个能够培养出很多聪明学生的好地方，虽然它需要很多资源和努力来运营，但是它能够帮助我们做很多事情，让我们的生活变得更好。
想象一下，你有一个非常聪明的机器人朋友，它可以做很多事情，比如画画、写故事、甚至帮你做数学题。这个机器人朋友就是人工智能（AI）的一个例子。
AIGC（人工智能生成内容）：这个机器人朋友可以创造很多东西，就像一个会画画和写故事的艺术家。它可以画出你想象中的图画，或者写出一个关于你最喜欢的超级英雄的故事。这就是人工智能生成内容，意味着机器人可以用它的大脑（AI技术）来创造新的东西。
Diffusion（扩散模型）：想象你把一滴墨水滴进清水里，墨水会慢慢散开，最后水变得浑浊。机器人朋友就像能够把这个浑浊的水变回清澈一样，它可以从一团混乱的噪点中创造出清晰的图画。
CLIP（图文表征模型）：如果你给这个机器人朋友看很多图片和它们的名字（比如“苹果”、“小狗”、“汽车”），它会学会识别这些图片。下次你给它看一个新的图片，它就能告诉你图片里是什么。
StableDiffusion（稳定扩散模型）：这个机器人朋友还可以根据你给它的提示来画画。比如你告诉它“画一个快乐的小狗”，它就能画出一个小狗的图画，而且这个小狗看起来很开心。
想象一下，如果这个机器人朋友不仅会画画和写故事，还能像人类一样理解世界，学习任何东西，并且可以做任何工作，那么它就像一个真正的小朋友一样了。这就是通用人工智能，它能够做任何人类能做的事情。
所以，AIGC就是让AI像艺术家一样创造内容，而AGI是让AI变得像人类一样理解和做事。
大型语言模型就像是一个非常非常聪明的图书管理员，它读过很多书，知道很多关于语言的知识，可以帮助我们做很多事情，甚至可以自己写故事。
想象一下，这个图书馆管理员每天都在阅读图书馆里的成千上万的书籍。它通过阅读这些书籍，学会了很多单词、句子和故事。这就是大型语言模型的训练过程，它通过阅读大量的文本数据来学习语言。
因为读过很多书，这个管理员可以帮你做很多事情。比如，它可以给你讲一个故事的摘要，或者帮你把一个故事翻译成另一种语言，甚至可以告诉你一个故事里的人物是开心还是伤心。大型语言模型也是这样，它可以执行很多不同的任务，比如文本总结、翻译和情感分析。
这个管理员之所以这么聪明，是因为它有一个超级大脑，里面有很多“小房间”（参数），每个“小房间”都存储着不同的信息和知识。大型语言模型也是这样，它有很多参数，这些参数帮助它记住和理解语言的复杂规则和模式。
当你问这个管理员一个问题，或者给它一个主题时，它可以给你一个答案或者讲一个故事。它可以根据它读过的书籍和学到的知识，创造出连贯和有意义的文本。大型语言模型也是这样，它可以生成新的文本，就像它自己在写故事一样。
GPT-3、ChatGPT、BERT和T5就像是不同领域的图书馆管理员，有的可能更擅长讲故事，有的可能更擅长解释科学知识，而文心一言就像是会写诗的图书管理员。它们都有自己的特长，但都能帮助我们理解和使用语言。
举个例子，你在学习骑自行车。你的爸爸或妈妈先带你在一个空旷的大公园里练习（这就像是预训练模型，公园里的各种地形就像是大量的数据，帮助你学会骑车的基本技巧）。
现在你已经会骑车了，但是你想学习如何在你家附近的小山丘上骑（这就像是一个新的任务，需要微调）。因为小山丘的路和公园里的路可能不一样，有上坡、下坡和弯道，所以你需要一些特别的练习来适应这些新的情况。
你的爸爸或妈妈会带你在小山丘上练习几天，这样你就会知道如何在上坡时蹬得更用力，在下坡时控制速度，在弯道时转弯（这就是微调过程，你在学习如何应用你已经掌握的骑车技巧来适应新的环境）。
微调的好处是，因为你已经知道怎么骑车了，所以你不需要再从零开始学习，只需要做一些小的调整就可以了。这就像是微调一个已经预训练好的模型，让它适应一个新的任务，比如理解医学文本。
自监督学习就像是通过读故事和玩游戏来学习新单词，而不需要别人告诉我们答案。这样，我们可以用很多没有标签的数据来训练模型，让模型变得更聪明。
比如你正在读一本非常有趣的故事书。你读了很多页，学到了故事里的很多新单词和句子。现在，如果你的朋友在旁边，你可以玩一个游戏：你给他读故事的一部分，然后遮住一些单词，让你的朋友猜下一个单词是什么。这个游戏就像是自监督学习。
在这个游戏中，你的朋友不需要别人告诉他正确的答案是什么，因为故事的上下文（已经读过的部分）就是线索。你的朋友可以通过他已经知道的单词和故事的内容来猜测下一个单词。这就是自监督学习的方式，模型通过已经知道的信息来学习新的东西，而不需要额外的答案或标签。
以上，就是我的本周观察和思考，欢迎讨论。
专栏作家
本文原创发布于人人都是产品经理，未经许可，禁止转载。
题图来自Unsplash，基于CC0协议。
该文观点仅代表作者本人，人人都是产品经理平台仅提供信息存储空间服务。