起底ChatGPTAPI计费逻辑,2步教你实时测算对话成本

但是问题来了,API服务里的这个“按量计费”的“量”应该怎么算?

也许你会说,那还不简单,直接看它回答了多少字数呗!这话只对了一半。因为ChatGPT不仅会讲中文,它还可以根据使用者所发送的语言,回答出英语、法语、西语等多国语言,相同意思下每个语言的长度都会不一样,所以它会将这些内容统一换算为另一个标准单位——Tokens,然后再进行计费。

ChatGPT不仅会统计自己输出了多少内容,还会记录用户输入了多少内容,毕竟它也需要先分析输入的文本才能输出有意义的回答,统一换算为Tokens值后汇总费用。以下是ChatGPTAPI的官方收费表,里面的4K、8K等数据代表单次问答中的最大上下文Tokens值。

如果你已经通过ChatGPTAPI成功地将AI能力嵌入至商业化产品中,比如说打造出了一个对客提供服务的智能客服,那么作为开发人员的你需要立刻、马上、清楚地知道每个客户的问答所产生的消耗额。因为公(Ling)司(Dao)需要知道最基础的成本才能制定出合理的运营策略。

总不能依靠实时监控OpenAI的账号后台来查看所消耗的成本吧?(更何况它还有五分钟的延迟)

那怎样才能在使用Apifox调用API的过程中就直接看到输入和输出的人民币成本呢?通过以下2步就能够清楚地看到人民币花费:

安装第三方库的运行环境。

npminstallopenai-gpt-token-counter参考以下示例代码,新建名为gpt-tokens-counter.js的Node.js脚本:

constopenaiTokenCounter=require('openai-gpt-token-counter');consttext=process.argv[2];//获取命令行参数中的测试内容constmodel="gpt-4";//替换为你想要使用的OpenAI模型consttokenCount=openaiTokenCounter.text(text,model);constcharacterCount=text.length;//计算字符数console.log(`${tokenCount}`);将该脚本文件放置于Apifox的外部程序目录下以供调用:

输入值就是在询问ChatGPT时所填写的问题。你可以在“聊天消息”API文档的前置操作中添加一个自定义脚本,使得Apifox能够调用上文中写好的Tokens换算脚本,提取位于请求参数Body中的content参数后换算为Tokens值。

填写以下示例代码:

try{varjsonData=JSON.parse(pm.request.body.raw);varcontent=jsonData.messages[0].content;//获取content中的信息varresult_input_tokens_js=pm.execute('./gpt-tokens/gpt-tokens-counter.js',[content])console.log(content);pm.environment.set("RESULT_INPUT_TOKENS",result_input_tokens_js);console.log("InputTokenscount:"+pm.environment.get("RESULT_INPUT_TOKENS"));}catch(e){console.log(e);}点击“运行”按钮后可以在控制台中看到已统计的输入值。

接下来需要计算ChatGPT输出了多少个Tokens。

因此我们需要先拼接所有的输出内容,然后再进行Tokens换算。

在后置操作中添加以下自定义脚本,拼接所有输出内容并换算Tokens:

//获取响应的文本内容consttext=pm.response.text()//将文本内容分割成行数varlines=text.split('\n');//创建一个空数组存储"content"参数varcontents=[];//遍历每一行for(vari=0;i

得到输入和输出所耗费的Tokens值后,因为ChatGPT采用美元计价,因此还需要调用实时汇率API后才能预估所消耗的人民币成本。

本文将调用CurrencylayerAPI获取实时汇率。

得到输入Tokens值后,还需请求实时汇率接口得到一个人民币换算乘数。在前置操作中新增以下脚本:

换算出输出所耗费的Tokens值后,与汇率相乘得到实际人民币成本。在后置操作中添加以下脚本:

最后还可以在后置操作中添加一个可以自动计算输入+输出总成本的步骤。

//输入输出成本加总constINPUTPrice=Number(pm.environment.get("INPUT_PRICE"));constOUTPUTPrice=Number(pm.environment.get("OUTPUT_PRICE"));console.log("总成本:"+(INPUTPrice+OUTPUTPrice)+"元");这样就能够在调试ChatGPTAPI的过程中预估出大致的输入输出总成本。

现在你不仅可以在Apifox中愉快地调用ChatGPTAPI,还能够清楚掌握你的调用成本,做到心中有数。

THE END
1.ChatGPT与接口测试chatgpt实现接口测试csdnChatGPT与接口测试 2024软件测试面试刷题,这个小程序(永久刷题),靠它快速找到工作了!(刷题APP的天花板)-CSDN博客文章浏览阅读1.3k次,点赞60次,收藏8次。你知不知道有这么一个软件测试面试的刷题小程序。里面包含了面试常问的软件测试基础题,web自动化测试、app自动化测试、接口测试、性能测试、自动化测试、安全https://blog.csdn.net/2301_76387166/article/details/134993585
2.如何使用chatGPT做谷歌SEO文章优化?这个工具是我之前在测试chatgpt内容的时候发现的,虽然是免费的但是和付费的做对比以后发现准确率还是很高的。如果想长期使用chatGPT产生内容的朋友,这个工具还是非常的推荐给你们的。 图片来源:zeroGPT截图 如果该工具发现有了AI写的内容会以黄色背景的形式显示出来,这种内容如果发布在谷歌网站或者社媒上的话就会被被检测https://www.cifnews.com/article/150840
3.如何搭建并部署ChatGPT接口服务如何搭建并部署ChatGPT接口服务 最近有不少朋友在问用于微信的ChatGPT接口以及怎么搭建ChatGPT接口服务,本文将以一个github开源项目为例,演示在Linux下搭建ChatGPT接口服务的流程。 一、准备工作 1、一台国外服务器(Linux环境) 国内的服务器目前无法访问ChatGPT的服务。https://www.deanhan.cn/create-chatgpt-api-for-wechat.html
4.用ChatGPT做软件测试dayuhome的技术博客本书以目前流行的大语言模型ChatGPT为基础,用丰富的案例演示ChatGPT在软件测试中的赋能作用。本书主要介绍如何用ChatGPT生成需求规格说明书、测试计划、功能测试用例、自动化测试用例、接口测试用例、测试数据和性能测试用例,以及ChatGPT在分析测试结果、辅助CI(Continuous Integration,持续集成)、生成测试总结报告和职业发展https://blog.51cto.com/u_13542393/12412401
5.对话ChatGPT一次产品视角的GPT功能测试(基于gpt3.5模型)Hello,大家好,作为一个又菜又爱玩的产品,OpenAI在厚积薄发后,其4.0的大语义模型通过了图灵测试,一时间国内产品圈和互联网圈“狼来了“的各种言论喧嚣直上。各种营销号也开始疯狂的贩卖焦虑,但是这个东西到底是一个颠覆生产关系的跨时代产品,还是一个营销的骗局呢?没有实践就没有发言权: https://www.imooc.com/article/334971
6.连玉君:我与ChatGPT聊了一个月说明:下面这段代码是这两天我刚写的,存放在我的本地电脑上。我没有通过邮件或微信跟任何人分享过这个代码。我想测试一下 ChatGPT 能否读懂这段代码,并帮我写个解读代码的说明文档 (类似于帮助文件或 readme 文档)。整体看来,它完成的不错。 5.1 ChatGPT 能读懂代码吗? https://lianxh.cn/news/4936433d8b2e9.html
7.检测ChatGPTGPT我用Bard、ChatGPT 和 HuggingChat 生成的内容测试了 Typeset,它准确地检测到了所有内容。 5. Hive Moderation 网址: https:///ai-generated-content-detection Hive Moderation 的 AI 生成内容检测偶尔会将人类生成的内容误认为是 AI。为确保可靠的结果,建议在将其用作主要资源时使用备份工具。AI 生成内容检测提供http://www.360doc.com/content/23/0619/22/1085405986_1085405986.shtml
8.在手机上轻松使用ChatGPT:一站式教程·构建你的智能应用,使用蓝集成ChatGPT API:获取OpenAI的API密钥并将其集成到你的应用程序中。确保API调用的安全性,在服务器端处理关键数据。 用户界面设计:根据用户需求设计简洁、高效的用户界面。考虑到移动设备的特点,尽量减少用户输入步骤,提高交互效率。 测试与部署:开发完成后,需要进行全面的测试,确保在不同型号的手机上都能正常运行。最后https://docs.lanyingim.com/news/easy-use-chatgpt-mobile-39-20240713-2-11-1720868646.html
9.校验ChatGPT4真实性的三个经典问题:快速区分GPT3.5与GPT4,并提现在已经有很多 ChatGPT 的套壳网站,以下分享验明 GPT-4 真身的三个经典问题,帮助你快速区分套壳网站背后到底用的是 GPT-3.5 还是 GPT-4。 大家可以在这个网站测试:https://ai.hxkj.vip,免登录可以问三条,登录之后无限制。咱们使用免登录的额度测试就已经够用了 https://www.cnblogs.com/hashtang/p/17784620.html
10.ChatGPT聊天体验本篇整理一下近几天与ChatGPT对话的记录,在理解人类语言这个层面上(AI语言模型都是概率论统计学基础上的模型,所以它的理解主要是统计学意义上理解,而不是感知和推理上的理解),的确达到了相当高的水平,自然流畅对话不在话下,当然也远不是无所不能,还是有一些不足与局限。我们讨论了与ChatGPT相关的一系列https://www.jianshu.com/p/51fa9082494f