杨庆峰（中国科协-复旦大学科技伦理与人类未来研究院）
一、ChatGPT能做什么？
然而，乔姆斯基却不看好，他认为ChatGPT是从海量数据中发现规律，然后依据规则将数据进行连接，形成类似人写的内容，在此基础上他指出ChatGPT是剽窃工具。这个看法有些不准确。对于新的认识存在一种情况：新是从旧的东西中发现未曾见过的过程，换句话说，本质上仍是旧的东西，但却是重新注意的过程。AIGC使用了交叉注意力的机制，这种注意力机制可以执行自注意力提取和执行交叉注意力提取，从而确保了新的内容的出现。谷歌是从一篇《注意力就是你全部需要的》（Attentionisallyouneed）提出了transformer。从Midjourney等看，这种生成也并非完全是一种剽窃，它可以生成图像，如2022年9月，杰森·艾伦（JasonAllen）使用AI工具Midjourney生成的绘画作品《太空歌剧院》在美国科罗纳州博览会上获得艺术比赛一等奖，它所生成的作品令人惊异。另外，从对话生成来说，它依靠算法的推理，所产生的结果并非是剽窃所能概括的。比如杨立昆（YannLeCun）的增强语言模型（augmentedlanguageModels）在很大程度上依靠将一个潜在复杂任务分解成更简单子任务的推理。
二、ChatGPT是否是颠覆性技术？
智能生成是从两个意义上来说的。其一是从内容生产的方面来讲，ChatGPT的意义就是进行内容生成。它有两个特征，一是具有自主学习特征，它是在对海量数据进行分析、组合而进行的生成；二是智能生成的特征，ChatGPT在生成中进化，从而获得“心智”。美国学者米切·康辛斯基（MichalKonsinski）认为ChatGPT拥有9岁左右儿童心智。这让我们想到LaMDA，布莱克·勒蒙（BlakeLemoine）认为它具有灵魂。其二是从与机械复制时代相对的角度来讲。德国学者本雅明曾经提出机械复制时代的观念，并用这一观念来描述工业社会中艺术生产的特性，艺术作品可以实现无限复制。我们用智能生成来描述的恰恰是智能社会的产品生产特征。此时范围更为宽广，不仅包括艺术作品，还有日常生活的对话文本以及包括医学在内的治疗文本。此时，对于这个范畴的阐述有利于我们重新认识文本的概念。我们曾提到数字文本，但是时代发展使得超越了这个范畴，而需要新的范畴来理解我们所面对的对象。
三、ChatGPT在什么意义上是可信的？
回答正确是ChatGPT可信的根据之一，因为ChatGPT可以做到事实正确，所以我们可以信赖它。从提问-回答本身来说，目前在很多使用者那里提出的问题希望ChatGPT回答正确而不出错，也只有在这个基础上，人类才能够信任并且接受它。这在搜索领域是如此，我们希望获得正确而有效的答案。当然，事实正确并无法保证道德正确。从伦理要求角度来说，我们希望它们的回答是友好的、无偏见的。无偏见是人类对于人工智能的基本伦理要求，希望在执行任务时表现得公正。友好的是一种基于人类自身的要求，我们总希望对话者表达友好，而不至于怼我们，以至于让我们情感上难以接受。然而，目前在使用ChatGPT过程中已经出现不友好的表现，比如不会回应、无视问题等等。这可以看作是无法做到道德正确的表现。事实正确与道德正确的完全是一个外在于ChatGPT的要求，这是人工智能伦理的要求，换句话说，是人类把自己的道德期望作为一种必然的要求给予它。可以看出，这种要求不是必然的。
透明性问题也是会影响ChatGPT的可信的。这一点为萨夫拉斯库忽略了。ChatGPT学习的数据来自人类历史数据，充满了各式各样的偏见。此外，ChatGPT的黑箱问题尤其明显，罗素非常明确地指出，我们不清楚ChatGPT的工作原理和机制，他也不认为语言大模型让我们距离真正的智能更近。面对比如StableDiffusion、LaMDA和ChatGPT等生成式AI的迅速发展，欧盟即将出台新的人工智能法规，强迫AI公司阐明其人工智能模型的内部运作原理，违反者将面临高达其全年收入6%的罚款。但是，事实上，那些试图让ChatGPT变得更加透明的想法有可能是一种奢望。
四、ChatGPT是否是可错的？
一般说来，ChatGPT是可错的（fallible），它的回答可以模糊、错误、带有偏见。上面的分析指出，ChatGPT无法做到道德正确，它的回答明显充满了偏见。还有一种情况是ChatGPT的幻觉，即会产生不准确的、误导或错误的信息。OpenAI的首席执行官山姆·阿尔特曼（SamAltma）承认ChatGPT给人一种误导性印象。在科学家的眼里，这一缺陷是可以通过技术方式来解决和弥补的。面对这种缺陷和有限，他们通过对改进现有架构或者AI方法论变更来解决这一问题。
ChatGPT的出错与意志没有任何关系，是参数和数据导致的偏差，甚至是神秘的黑箱导致的无法避免的结果。在这个分析中，我们把ChatGPT的可错性分析与意志的关系完全剥离出来。毕竟它只是一个智能体，而不是主体。我们需要做的是把ChatGPT可错程度控制到一定范围内，完全不犯错误是不可能的。