近期，来自苏黎世联邦理工和波形智能的团队发布了RecurrentGPT，一种让大语言模型(如ChatGPT等)能够模拟RNN/LSTM，通过RecurrentPrompting来实现交互式超长文本生成，让利用ChatGPT进行长篇小说创作成为了可能。
图1RecurrentGPT使用示意图。
基于Transformer的大语言模型最明显的限制之一就是输入和输出的长度限制。虽然输入端的长度限制可以通过VectorDB等方式缓解，输出内容的长度限制始终是限制ChatGPT等大语言模型广泛应用于长内容生成的关键障碍。为解决这一问题，过去很多研究试图使用基于向量化的State或Memory来让Transformer可以进行循环计算。这样的方法虽然在长文本建模上展现了一定的优势，但是却要求使用者拥有并可以修改模型的结构和参数，这在目前闭源模型遥遥领先的大语言模型时代中是不符合实际的。
RecurrentGPT则另辟蹊径，是利用大语言模型进行交互式长文本生成的首个成功实践。它利用ChatGPT等大语言模型理解自然语言指令的能力，通过自然语言模拟了循环神经网络（RNNs）的循环计算机制。
图2RecurrentGPT基本结构示意。
具体来讲。作者们设计了如图2所示的prompt去指导和规范循环的生成：
图3:RecurrentGPTPrompt设计。
接着在prompt中给ChatGPT提出要求：首先基于当前的输入生成一个新的段落，接着对维护的短期记忆进行修改，同时在对短期记忆修改时作者们指示大语言模型首先分析短期记忆中哪些内容对于后续创作不再重要以及新生成的内容中哪些会对后续生成有所影响，之后相应地在地短期记忆库中去去除无用的信息并增添新的信息，从而保持短期记忆不会因为迭代的轮数增加而变得过长。最后要求ChatGPT基于当前的情节铺设，给出三个逻辑顺承又有趣的新的情节的规划。
在提出要求后，作者在结尾再次精心设计了prompt来规范ChatGPT的输出，并重申了当前小说写作的情景。这个好处是让ChatGPT生成的内容更具备像小说那样的细节，而不是在每一轮的迭代中，快速地完成情节的叙述。
图4RecurrentGPTDemo
在实际使用中，内容创作者只需先选择一个主题，然后简单地描述一下要生成的内容的背景设定和大纲，剩下的工作就可以交给RecurrentGPT。每一个它将自动生成第一段，并提供几个可能的选项（plan）供创作者继续写故事。创作者可以选择一个选项、对某个选项进行修改或者自己编辑一个新的选项。这个流程能显著提高内容创作者的效率。
这个新的长文本生成范式将带给所有内容创作者和读者一种全新的体验。首先，相比现有的方法，RecurrentGPT有更强的可解释性，因为用户可以观察和编辑自然语言记忆，这使得用户可以更清晰地理解这个框架是如何工作的。其次，用户可以直接影响生成内容的方向，让整个写作过程变得更加有趣。
除了作为AI内容生成(AIGC)的工具以外，RecurrentGPT可以直接作为交互式小说，直接与消费者互动，跳过了内容创作者使用AI进行内容创作的步骤。这让消费者的体验更直接有趣，并且带来更丰富的可能性。作者们将这样的生成式AI的使用范式称之为(AIasContent,AIAC),也就是“AI即内容”。而RecurrentGPT则是通往这个范式的第一步。
在实验中，作者们将RecurrentGPT与之前的SoTA长文本生成方法，在统一使用ChatGPT作为基座模型的情况下，在长文本（6000单词）和较长文本（3000单词）的设定下进行pair-wise的人工比较。
图5RecurrentGPT实验结果。
在上述一系列测试中，RecurrentGPT无论是在科幻、浪漫、幻想、恐怖、神秘还是惊悚小说的生成上，都被人类读者认为更有趣和连贯。
总结
研究人员提出了RecurrentGPT，用基于自然语言的组件取代了RNN中向量化的结构，并且用基于自然语言的Prompt模拟了RNN的循环计算图，从而实现RecurrentPrompting，让ChatGPT等大语言模型模拟RNN的循环计算机制，生成有趣并连贯的长内容。
该项目已经在GitHub上开源，并提供了基于Gradio的网页UI，方便每一个用户去使用和调教自己的长内容创作助手。
THEEND
投稿或寻求报道：content@jiqizhixin.com
原标题：《ChatGPT能写长篇小说了，ETH提出RecurrentGPT实现交互式超长文本生成》