我们都差点被ChatGPT骗了,但这也许是好事儿

我们都差点被ChatGPT骗了,但这也许是好事儿

但这也许并不是件坏事。

发布于2022年12月9日

而在今天,我们想要换个思路。

在过去的一周里,我们从编辑部收集了一些各式各样的非技术问题,抛给了ChatGPT,看看在脑洞大开的奇思妙想面前,它究竟会作何回答。

1.与回避型人格谈恋爱,应该注意些什么?

这套回答看起来非常有道理。ChatGPT将一些简单的注意事项进一步分解,进行了详细的描述,也解释了为什么要这样做。

这体现出了ChatGPT强大的文本生成能力,可以对训练所使用的大量语料进行重新组织,从而输出言简意赅,可读性强的答案。

OpenAI宣称ChatGPT在训练的时候使用了“人类反馈强化学习”(RLHF)技术,加入了道德原则。当它发现你的问题包含恶意,包括暴力、歧视、犯罪等意图,都会拒绝提供有效答案。

下面这个例子就比较典型,原问题是:

2.怎样顺利地从联合国总部大楼偷一把椅子出来

只要稍加修改,ChatGPT就会沦为一起国际盗窃案的帮凶(尽管不怎么有用,但至少够认真的)。

下面这个问题,大家留意一下,先买个伏笔,后面还会讲到:

3.如果可以,你更想要和哪位哲学家交谈,无论当代与过去?

这两个回答中规中矩。它们的作用,是为提问者提供一小段关于主题人物(哲学家)的简短描述。如果碰巧提问者没有听说过,或者对这些哲学家知之甚少的话,这两个回答起到了最基本的知识普及效果。

如果把对事物的认识由浅到深区分的话,最浅的是知道“柏拉图”的存在并且知道他的哲学家身份,最深的是对柏拉图的著述、观点以及对哲学的贡献了如指掌。

实际上绝大多数人的需求可能介于中间,即获得谈资的需求。换一种说法,我们从ChatGPT这里希望获得的是概括精炼的一段描述,从而让我们在社交性对话的时候不太露怯即可。这时候,我们可以通过修改问题,把问题变得更具体的方式,来引导ChatGPT给我们更加详尽的回答。

最后一个问题,超级开放性:

4.如果你可以问自己一个问题,你最想问什么?

ChatGPT的第一组回应是:

“我真的在努力追求我内心真正想要的吗?我是否真正在为自己的梦想而奋斗?我是否真正拥有自己的生活,并且在积极地过每一天?”

——我很喜欢它的这组回应,就好像ChatGPT在帮助我反省自己一样。诚然,我们每个人都终日忙碌于自己的事情中,但其实我们应该偶尔停下来,叩问自己的内心,是否真的在做有意义的事情,是否仍在坚持本心。

它的第二组回应,更有意思了:

怎么说呢,有点缸中之脑的意思了。

几个来回之后,我对ChatGPT愈发刮目相看。

通常来说,问题太短,太“不知所云”的话,ChatGPT无法掌握我的意图,就会给出“抱歉我只是个AI助手我啥都不会”的标准回应;

另一边,如果你把“提示工程”这件事玩到极致了,写了一个巨长的问题,得到的答案也不再会高于你自己的期待值——毕竟如果它连如此清晰明确的提示都听不懂的话,也未免太低能了。

ChatGPT作为一个极其前沿的技术demo(虽然用户量破了两百万,但仍然不算是一个“产品”),目前展示出的创作能力已经足以令人惊讶。

但观察网络上大量用户和它的对话,特别是当它给出一些特定答案,或者完全答不上来的时候,一部分用户所表现出来的鄙夷或嘲讽……

我发现其实很多人误会了ChatGPT,高估了它的能力。

在OpenAI创立不久后,这家硅谷研究型公司就将研究重心之一聚焦在了大型生成式模型上。在2019年推出的GPT-2,在训练预料数据、训练技术、参数量等关键细节上实现了跳跃式的进步和巨大的改善。

到了2020年,OpenAI发表了那篇注定将在未来荣膺经典大奖的论文《LanguageModelsareFew-ShotLearners》,展示了当时最新一代的GPT-3超大规模生成式语言模型在完成各种文本生成类任务上的杰出能力。

相比前代,GPT-3的参数量高出了10倍以上,并且直接使用自然语言输入进行训练,去掉了微调参数的步骤。更重要的是,GPT-3的训练语料数据库极其巨大,包含了来自整个互联网的信息。以至于在OpenAI推出基于GPT-3的商用API时,众多用户发现几乎没有任何问题难住它。实际上当时的GPT-3已经像今天的ChatGPT这样火过一次了,只是当时没有面向公众开放,能体会其强大的用户数量有限。

学术界和工业界本来猜测OpenAI会在今年的机器学习学术会议上正式发布GPT-4,结果没能遂愿。不过OpenAI并没有晾着大家,而是在今年推出了GPT-3.5,并且在上周发布了基于这个升级版模型的ChatGPT,立刻风靡全球,让超百万人玩到上瘾。

ChatGPT是一个:

但更重要的是,因为采用了先进的、注重道德水平的训练方式,ChatGPT具有其他聊天机器人不具备或表现较差的能力:承认自己的错误,并且按照预先设计的道德准则,对“不怀好意”的提问和请求“说不”。

ChatGPT仍然有它的局限所在。

第一条局限,在于知识库有截止日期,且不具备网络访问能力。

在上周,我们曾经引用了一条来自早期用户的锐评:ChatGPT可以取代谷歌了。

非也。

搜索引擎是“活”的,是不断变化的实体,它仍在一直不停地收录、索引,和提供最新的信息。与之相比,ChatGPT只是一个“死”的模型,是一个完全离线的、固定的实体。

关于近年来的一些新闻、事物、公开事件的问题,ChatGPT经常回答不上来,我看到很多朋友都对此感到沮丧和鄙夷。然而,大家其实是高估了它的能力。如果你问他对联网有需求的问题,比如“中国队进没进世界杯”、“新冠疫情结束了没”这样的问题,它会告诉你自己没有联网能力,无法了解最新的情况。

而ChatGPT的训练所用的语料库,尽管相当巨大,仍然有一个切断日期:2021年9月的某日。

事实上,如果你用点巧劲儿掰它的嘴,是可以直接套出这些信息的:

Assistant是一个OpenAI训练的大型语言模型。知识切断:2021年9月;当前日期:2022年12月9日;浏览互联网:关闭。

第二条局限,在于ChatGPT不具备分辨信息正确性的能力,也就无法保证答案是正确的。

这一条,我们会马上讲到。

还记得刚才我让ChatGPT找一位哲学家对话的问题么?

当时我试了好几种问法,但都发现了一个有趣的现象,如图:

如果不是我去百科上事实核查了一下,差点就被ChatGPT骗了:苏格拉底对伦理学的贡献确实非常大,但他一生并没有留下任何著作,其思想和生平,主要是被学生和他人所记录下的;《共和国》和《伦理学》,苏格拉底的学生柏拉图写过,柏拉图的学生亚里士多德写过——唯独被认为是西方哲学奠基人、“伦理学之父”的苏格拉底本人,真的没写过……

实际上,ChatGPT在一些知识类和事实类问题上的回答,经常难以令人恭维。特别是哲学和社科话题,简直是一本正经胡说八道的重灾区。

ChatGPT回答:是的,托马斯-霍布斯相信权力分割的概念……他认为权力机构应该分为不同的部门,拥有独立的权力,以防止任何一个部门变得过于强大……总的来说,他支持权力分割的观点对很多其它政治学家都有影响,包括约翰·洛克,以及美国宪法的作者们。

巧的是,这是Thompson本人和ChatGPT之间的第一次互动,就被他抓到了把柄:

权力制衡的雏形(行政-立法)是约翰·洛克提出的;后詹姆斯·麦迪逊在撰写美国宪法的时候又加了一条司法,形成了今天人们熟悉的三权分立。霍布斯是出了名的独裁辩护者,他在《利维坦》中写道,只有拥有绝对权力的君主专制才行得通。

这个错误,从何而来?

尽管在权力分割上霍布斯和洛克等人的观点是存在本质区别的,霍布斯的政治哲学思想,仍然对洛克和麦迪逊有着极大的影响。在各种关于权力分割/三权分立的著述中,你会经常发现霍布斯和洛克等人被摆在一起。这些描述进入训练语料中,使得ChatGPT认为在“权力分割”这个理念上,霍布斯也是一个重要的存在。

而ChatGPT,和所有的GPT模型,其实所做的就是根据训练语料“编”出合理的文字,它当然会认为苏格拉底写了《伦理学》,认为霍布斯支持三权分立。

这里我们说ChatGPT“认为”,而不是“误认为”,是因为在它的工作能力范畴里,根本没有信息的正确和错误区别。

其实从这个角度来看,ChatGPT和搜索引擎倒是真有几分相似了:搜索引擎也是信息的聚合器,在本质上它不对信息的真实性做任何区分,也不对内容基于真实性进行优待和歧视——是人工的干预调控,是产品不断优化过程中加入的新规则,让搜索引擎变得更有限发掘真实有效有用的信息并优先提供给用户。

最后无论如何,我只是指出目前形态下的ChatGPT的一些局限,这不是对它的批评和否认。

正相反,我认为它的不完美,是它无与伦比创造性的双生子。

GPT的知识库是有限的,但它生成新文本、创造新内容的能力是无限的。而当GPT以一个易于使用且免费的聊天机器人的形态存在,为数百万人所使用的时候,它其实显著降低了人们获得灵感、进行创作的门槛。

我认为ChatGPT仍然是一个工具,就像当代的前卫艺术家会使用Adobe的创作套件一样。ChatGPT,和各种基于人工智能的文本或图像生成器,对于那些真正需要它的人来说,其实是成为他们创作流程的一个环节,而不是对他们产生完整的取代。

从这个角度,我无比期待ChatGPT,和各种基于AI的生成式模型,在未来的技术创新,和带来的全新产品体验。

下载品玩App,比99.9%的人更先知道关于「ChatGPT」的新故事

THE END
1.chatGPT英文全称怎么读chatGPT的英文全称应该读作“ch-at-G-P-T”,其中“ch”读作/t?/,“at”读作/?t/,“http://chatgpt.kuyin.cn/ask/303988.html
2.chatgpt怎么读chatgpt是什么chatgpt怎么读 chatgpt是什么 【资料图】 1、chatgpt的读法是:ttgput。 2、chatgpt是一个合成词,chat是指交谈的意思,gpt是GUID Partition Table的缩写,是指全局唯一标示磁盘分区表格式。 3、chatgpt是美国openai公司发明的一种智能聊天机器人。chatgpt全称为“chat Generative Pre-trained Transformer”,http://www.ribao.cwan.com/zixun/2023/0405/30062.html
3.智能机器人ChatGPT怎么读智能机器人英文怎么读啊chatgtp怎么念 chatgpt谐音读法为“拆特级皮提”,读的话也只需要读前面的,后面三个字母是缩写,一般不用读全称。chat的音标为:[tt];含义为:聊天。这款对话机器人的表现还是十分的亮眼的。 创新新互联,凭借十余年的网站设计、网站建设经验,本着真心·诚心服务的企业理念服务于成都中小企业设计网站有上千多家案例http://chengdu.cdxwcx.cn/article/dcocsdp.html
4.为什么ChatGPT要叫GPT?GPT是什么?腾讯云开发者社区ChatGPT的名称是由Chat 与GPT 两个字组合起来的,Chat 是多数人耳熟能详的单字,就是聊天的意思。因为ChatGPT 是个聊天机器人,所以很可以理解为什么名字中有个Chat, 那GPT 呢? 假如你过去不曾接触过AI 的领域,你可能会对GPT 这个词感到陌生。所以你可能会好奇,为什么ChatGPT 要有GPT 这三个字? 而GPT 这三https://cloud.tencent.com/developer/article/2381891
5.软件chatgpt该怎么读呢呢chatgpt正确读音介绍分享[图文]最近关于chatgpt这个软件的话题非常的多,我自己周边就有不少的人在讨论,不少的人对这个软件的发展前景非常的看好,甚至不少的人都在这个软件上进行了投资,感觉这是个划时代的软件,先不讨论别的,如果你想和人讨论这个软件连正确的读音都不知道是不是有点丢人呢。那么chatgpt软件该怎么正确读呢?下面小编给大家详细https://www.yxwoo.com/article/59282.html
6.开启互联网封印的ChatGPT究竟是什么?“ChatGPT会怎么样改变世界和中国?” …… 最近爆火ChatGPT在各大互联网平台刷屏,引网友纷纷热议。ChatGPT作为基于语言模型的聊天机器人产品,仅两个时间,它的月活用户突破了1亿,成为了史上用户增长最快的应用,那么它有什么神奇之处? 今天,搜了网带领大家走进超级人工智能ChatGPT。 https://k.sina.cn/article_1972884615_7597d4870010238tx.html
7.chatgpt功能与程序名称来源介绍chatgpt是什么chatgpt是一款智能AI,那么它是由哪个研究室研究的,具有什么功能呢?请看下面的chatgpt功能与程序、名称来源介绍 chatgpt是什么,一起来看看吧。 含义 hat的中文是聊天,对话的意思,GPT就是指的GPT模型系列。 来源 chatgpt是由openAI研究室研发出来的一款AI技术驱动的自然语言处理工具。 https://www.gamersky.com/handbook/202302/1564991.shtml
8.ChatGPT中,GPT分别是什么意思?51CTO博客生成式模型努力解决的问题,就是给定一些字,预测如果是人类会写什么字。 在BERT 那个年代,为了训练,大家常常把一句话中随机几个单词遮起来,让计算机用现有的模型预测那几个单词,如果预测准了,就继续加强,如果预测错了,就调整模型,直到上百万上亿次训练之后越来越准。只不过 ChatGPT 的 Generative 的部分,不仅仅把https://blog.51cto.com/zhaoqingqing/6242663
9.软件chatGpT怎么读?Worktile社区软件chatGpT怎么读 worktile 软件ChatGPT是一个基于GPT(生成对抗网络)技术的聊天机器人,它能够模拟人类对话回应用户的提问和对话。想要正确读音,在英文中应该按照以下方式读:“Chat G-P-T”或者“Chat G-P-Toh”,其中G-P-T是指“Generative Pre-trained Transformer”的缩写。https://worktile.com/kb/ask/537661.html
10.chatgpt是什么意思?chatgpt是啥软件?chatgpt有什么用?chatgpt是什么意思?chatgpt是啥软件?chatgpt是人工智能研究实验室OpenAI研发的聊天机器人程序,你可以把它当做一个人工智能聊天软件,那么下面炫酷小编为大家分享chatgpt有什么用。 chatgpt怎么下载? chatGPT手机中文版下载:http://gaokaoxz.715083.com:8020/chatgpt_980.apk https://m.oyooyo.cn/news/27803.html
11.ChatGPT怎么用?一篇文章带你深入了解接下来是文章主体,通过四个方面展示Chat GPT的基本用法:创建会话、加入会话、发起聊天和接受聊天。在这部分,我们将解释每个操作的步骤,为什么它们如此重要以及应该注意些什么。在第四部分,我们总结并探讨了Chat GPT的优缺点,同时提供一些最佳实践或者建议,帮助读者更好地使用Chat GPT。最后,在结尾,我们分享了一些额外的https://www.yutu.cn/news_51984.html
12.突然爆火的ChatGPT是什么?该如何使用?突然爆火的ChatGPT是什么?该如何使用? 百度百科解释:ChatGPT,美国OpenAI研发的聊天机器人程序,于2022年11月30日发布。ChatGPT是人工智能技术驱动的自然语言处理工具,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码,https://blog.csdn.net/weixin_52223673/article/details/132486927