起底ChatGPTAPI计费逻辑,2步教你实时测算对话成本

但是问题来了,API服务里的这个“按量计费”的“量”应该怎么算?

也许你会说,那还不简单,直接看它回答了多少字数呗!这话只对了一半。因为ChatGPT不仅会讲中文,它还可以根据使用者所发送的语言,回答出英语、法语、西语等多国语言,相同意思下每个语言的长度都会不一样,所以它会将这些内容统一换算为另一个标准单位——Tokens,然后再进行计费。

ChatGPT不仅会统计自己输出了多少内容,还会记录用户输入了多少内容,毕竟它也需要先分析输入的文本才能输出有意义的回答,统一换算为Tokens值后汇总费用。以下是ChatGPTAPI的官方收费表,里面的4K、8K等数据代表单次问答中的最大上下文Tokens值。

如果你已经通过ChatGPTAPI成功地将AI能力嵌入至商业化产品中,比如说打造出了一个对客提供服务的智能客服,那么作为开发人员的你需要立刻、马上、清楚地知道每个客户的问答所产生的消耗额。因为公(Ling)司(Dao)需要知道最基础的成本才能制定出合理的运营策略。

总不能依靠实时监控OpenAI的账号后台来查看所消耗的成本吧?(更何况它还有五分钟的延迟)

那怎样才能在使用Apifox调用API的过程中就直接看到输入和输出的人民币成本呢?通过以下2步就能够清楚地看到人民币花费:

安装第三方库的运行环境。

npminstallopenai-gpt-token-counter参考以下示例代码,新建名为gpt-tokens-counter.js的Node.js脚本:

constopenaiTokenCounter=require('openai-gpt-token-counter');consttext=process.argv[2];//获取命令行参数中的测试内容constmodel="gpt-4";//替换为你想要使用的OpenAI模型consttokenCount=openaiTokenCounter.text(text,model);constcharacterCount=text.length;//计算字符数console.log(`${tokenCount}`);将该脚本文件放置于Apifox的外部程序目录下以供调用:

输入值就是在询问ChatGPT时所填写的问题。你可以在“聊天消息”API文档的前置操作中添加一个自定义脚本,使得Apifox能够调用上文中写好的Tokens换算脚本,提取位于请求参数Body中的content参数后换算为Tokens值。

填写以下示例代码:

try{varjsonData=JSON.parse(pm.request.body.raw);varcontent=jsonData.messages[0].content;//获取content中的信息varresult_input_tokens_js=pm.execute('./gpt-tokens/gpt-tokens-counter.js',[content])console.log(content);pm.environment.set("RESULT_INPUT_TOKENS",result_input_tokens_js);console.log("InputTokenscount:"+pm.environment.get("RESULT_INPUT_TOKENS"));}catch(e){console.log(e);}点击“运行”按钮后可以在控制台中看到已统计的输入值。

接下来需要计算ChatGPT输出了多少个Tokens。

因此我们需要先拼接所有的输出内容,然后再进行Tokens换算。

在后置操作中添加以下自定义脚本,拼接所有输出内容并换算Tokens:

//获取响应的文本内容consttext=pm.response.text()//将文本内容分割成行数varlines=text.split('\n');//创建一个空数组存储"content"参数varcontents=[];//遍历每一行for(vari=0;i

得到输入和输出所耗费的Tokens值后,因为ChatGPT采用美元计价,因此还需要调用实时汇率API后才能预估所消耗的人民币成本。

本文将调用CurrencylayerAPI获取实时汇率。

得到输入Tokens值后,还需请求实时汇率接口得到一个人民币换算乘数。在前置操作中新增以下脚本:

换算出输出所耗费的Tokens值后,与汇率相乘得到实际人民币成本。在后置操作中添加以下脚本:

最后还可以在后置操作中添加一个可以自动计算输入+输出总成本的步骤。

//输入输出成本加总constINPUTPrice=Number(pm.environment.get("INPUT_PRICE"));constOUTPUTPrice=Number(pm.environment.get("OUTPUT_PRICE"));console.log("总成本:"+(INPUTPrice+OUTPUTPrice)+"元");这样就能够在调试ChatGPTAPI的过程中预估出大致的输入输出总成本。

现在你不仅可以在Apifox中愉快地调用ChatGPTAPI,还能够清楚掌握你的调用成本,做到心中有数。

THE END
1.如何用ChatGPT做软件测试?(内附实操案例)如何测试chatgpt如何用ChatGPT做软件测试?(内附实操案例) 面试求职:「面试试题小程序」,内容涵盖 测试基础、Linux操作系统、MySQL数据库、Web功能测试、接口测试、APPium移动端测试、Python知识、Selenium自动化测试相关、性能测试、性能测试、计算机网络知识、Jmeter、HR面试,命中率杠杠的。(大家刷起来…)https://blog.csdn.net/wx17343624830/article/details/143592742
2.软件测试/人工智能丨如何利用ChatGPT编写测试方案霍格沃兹测试开发学社 2023-12-13 投诉 阅读数:296 以百度搜索引擎为例,使用 ChatGPT 编写测试方案 测试目标 验证百度搜索引擎的核心功能,包括搜索准确性、搜索速度、搜索结果页面展示等。 测试范围 搜索功能 搜索关键词 高级搜索选项 搜索建议和自动完成 搜索结果页面 结果排序准确性 页面布局和设计 相关https://weibo.com/ttarticle/p/show?id=2309404978449789092285
3.如何搭建并部署ChatGPT接口服务如何搭建并部署ChatGPT接口服务 最近有不少朋友在问用于微信的ChatGPT接口以及怎么搭建ChatGPT接口服务,本文将以一个github开源项目为例,演示在Linux下搭建ChatGPT接口服务的流程。 一、准备工作 1、一台国外服务器(Linux环境) 国内的服务器目前无法访问ChatGPT的服务。https://www.deanhan.cn/create-chatgpt-api-for-wechat.html
4.如何使用chatGPT做谷歌SEO文章优化?这个工具是我之前在测试chatgpt内容的时候发现的,虽然是免费的但是和付费的做对比以后发现准确率还是很高的。如果想长期使用chatGPT产生内容的朋友,这个工具还是非常的推荐给你们的。 图片来源:zeroGPT截图 如果该工具发现有了AI写的内容会以黄色背景的形式显示出来,这种内容如果发布在谷歌网站或者社媒上的话就会被被检测https://www.cifnews.com/article/150840
5.测试ChatGPT,你学会了吗?一,要测试ChatGPT,可以按照以下步骤进行: 1 准备测试环境:确保您有一个可以与ChatGPT进行交互的平台或工具。您可以使用OpenAI提供的Playground(https://play.openai.com/)或使用OpenAI的API与ChatGPT进行交互。 2 确定测试目标:明确您希望测试ChatGPT的哪些方面。您可以测试其对一般性问题的回答能力、特定领域的知识、https://www.51cto.com/article/761552.html
6.对话ChatGPT一次产品视角的GPT功能测试(基于gpt3.5模型)Hello,大家好,作为一个又菜又爱玩的产品,OpenAI在厚积薄发后,其4.0的大语义模型通过了图灵测试,一时间国内产品圈和互联网圈“狼来了“的各种言论喧嚣直上。各种营销号也开始疯狂的贩卖焦虑,但是这个东西到底是一个颠覆生产关系的跨时代产品,还是一个营销的骗局呢?没有实践就没有发言权: https://www.imooc.com/article/334971
7.如何使用ChatGPT构建智能问答系统- 发布和部署:在完成测试和优化后,将系统发布和部署到生产环境中,供用户使用。 总结: 本文介绍了如何使用ChatGPT构建智能问答系统,包括准备数据集、训练模型、定义意图和实体、建立API接口以及测试和优化。使用ChatGPT构建智能问答系统可以大大提高用户获取信息和解决问题的效率,也是自然语言处理领域的重要进展之一。https://www.jianshu.com/p/fc304d3168f1
8.实测:ChatGPT的翻译能力怎么样?雷峰网不过,一个有趣的发现是,ChatGPT在包含众包语音识别语料的WMT20Rob3测试集上大大超过了谷歌翻译和DeepL Translate。这表明,ChatGPT本质上是一个人工智能对话工具,能够比商业翻译软件生成更自然的口语(见图6)。 图6:来自WMT20鲁棒集set3的例子 2 ChatGPT应如何扬长避短? https://www.leiphone.com/category/ai/GftWDAq4bFtBelft.html
9.ChatGPT有多全能,女生用ChatGPT测网恋对象是否谎报身高,误差只有2测试方法也非常简单,只要在ChatGPT上传4张照片,它就会根据比例和周围环境来估计上传照片中的人物身高。 例如下图中的两组示例: 把图片交给AI身高测谎仪,这是z世代女性在约会应用程序上,利用AI技术智取情报的一种新方式。 在网络上,女生还会利用一系列人工大数据软件侦察对方情况,例如,一个名为「我们在和同一个人约https://36kr.com/p/2922102427442056
10.检测ChatGPTGPT我用Bard、ChatGPT 和 HuggingChat 生成的内容测试了 Typeset,它准确地检测到了所有内容。 5. Hive Moderation 网址: https:///ai-generated-content-detection Hive Moderation 的 AI 生成内容检测偶尔会将人类生成的内容误认为是 AI。为确保可靠的结果,建议在将其用作主要资源时使用备份工具。AI 生成内容检测提供http://www.360doc.com/content/23/0619/22/1085405986_1085405986.shtml
11.在手机上轻松使用ChatGPT:一站式教程·构建你的智能应用,使用蓝集成ChatGPT API:获取OpenAI的API密钥并将其集成到你的应用程序中。确保API调用的安全性,在服务器端处理关键数据。 用户界面设计:根据用户需求设计简洁、高效的用户界面。考虑到移动设备的特点,尽量减少用户输入步骤,提高交互效率。 测试与部署:开发完成后,需要进行全面的测试,确保在不同型号的手机上都能正常运行。最后https://docs.lanyingim.com/news/easy-use-chatgpt-mobile-39-20240713-2-11-1720868646.html