好好学习,天天向上。卷到最后,就是胜利。
今天早上醒来,到处是ChatGPT插件系统的新闻,官方新闻在这里:
We’veimplementedinitialsupportforpluginsinChatGPT.Pluginsaretoolsdesignedspecificallyforlanguagemodelswithsafetyasacoreprinciple,andhelpChatGPTaccessup-to-dateinformation,runcomputations,orusethird-partyservices.
除了一般的能力整合,更吸引我们注意的是,这次OpenAI还公开了一些带来更多可能性的功能(通过官方插件,不知道会不会开放给第三方)。
类似NewBing,这个功能让ChatGPT可以从互联网上获取资讯,然后结合强大的文本理解和推理能力,一方面对接用户的自然语言询问,另一方面代替用户从茫茫文海中查找合适的内容。
这个能力十分让人期待,不过也让我隐隐有些担心:大家都依赖ChatGPT快速获得答案之后,互联网信息污染会不会越来越容易,也越来越容易造成破坏了?
GPT的模型本身就能很好的理解和生成代码,但由于它并不是真的理解语法规范,所以生成的代码能不能执行比较看运气。如今,通过Codeinterpreter,它可以在页面沙箱里执行的python代码,于是至少有三个方面的改善:
ChatGPTRetrieval插件可以访问个人和组织专属信息源,根据用户自己的数据生成更精准的回答。这个产品是开源的,可以部署在用户自己的环境里,相当炸裂,这下LangChain和LlamaIndex岌岌可危,我之前想搞的SecondMe也可以换个方向了。
但是,这也印证了开发者的担忧:大厂偷家怎么办?本来核心技术就在大厂,我们辛辛苦苦帮他们把产品方案趟出来,裤衩一声,大厂发布了自己的版本,我们呢?
可以想像,就像抖音快手分别带火大量新品牌一样,我认为所有厂商都不会放过这个机会,大家一定会涌入ChatGPT插件市场,试图用AI给自己引入新的用户。未来,CEO(ChatEngineOptimization)可能会和SEO一样重要。比如,通过在知乎问答“脸上长痘怎么办”里注入自己的品牌内容,可能比做一堆垃圾内容农场,更有价值。这么一想,利好知乎、Quora。
我倒不觉得插件系统会对其它AI厂商带来什么威胁——或者不如说,不会让威胁更大,因为模型领先太多。相反,ChatGPT很可能通过自己的发展,给其它厂商打了个样出来,让大家知道怎么做产品。
比如,多模态重要还是接入互联网重要?我觉得可能是后者,至少对百度而言,过去一周被反复处刑的文生图功能,是不是可以先放放?集中精力优化大模型,然后多做一些应用层的接口,可能更受市场欢迎。
所以我更关心技术天花板在哪里。比如访问网络的能力,我能不能在API里使用?怎么用?这关系到我能否拥有自己的产品入口,以及我应该怎么搭建我的基础设施。
现在几乎所有AI产品都在排队,OpenAI更是排队大户。我觉得除了产品本身的成熟度之外,他们的云服务承载能力和运营成本也是排队的一个重要原因。
假设将来产品基本成熟了,单客成本会是多少呢?有多少用户能用上呢?我觉得也是个问题。所有的工具,都会加剧人与人之间的差异,将来善用AI工具的人一定比全手工的人高效很多,那么AI会不会导致新的不平等呢?
这些问题可能都是国内才会遇到的,即然我是简中写作,那可能还有些作用吧。我们使用的是AutoDL的服务器,看起来是建在华为云上。服务器官方提供代理,可以加速GitHub访问,但是我们这个区刚好没有,惨兮兮……当真是没有困难创造困难也要上。
SDwebui默认仅允许本地环境在线安装扩展,我们部署在服务器上的环境必须添加--enable-insecure-extension-access到COMMANDLINE_ARGS里才可以。配置并重启服务之后就可以了。
ssh-keygen-ted25519-C"meathill+sd@gmail.com"然后把key添加到GitHub。再接着把ssh协议的仓库链接复制到“Extension>InstallfromURL”里安装,即可。
安装完成后,很多时候仅重载前端界面不行,还是要重启整个服务。
AutoDL提供的镜像默认不包含面部修复功能,在第一次使用该功能时,SDwebui会尝试下载对应的包。因为服务器在墙内,下载地址在GitHub,所以速度很慢,可能会超时或者断线失败。此时可以手动辅助处理,先下载到本地,然后上传到服务器。大约有以下几个文件:
我总结了最近几周的开发经验,主要是使用VercelEdgeFunction提供API服务时踩过的坑,汇集成一篇博客,推荐有类似需求、做类似技术选型的同学参考:
各大厂商发布了不少围绕AI打造的新品和改进的老产品,正如下图所示:
这里简单列几个,大家有空可以试试。不过大部分都只是有限开放,要先加入wishlist,等排队。
市场很热,OpenAI的掌舵者对节奏的把握也很强,隔三差五就把大家刺激一波。我的观点还是:书上得来终觉浅,绝知此事要躬行。工程上总会有各种各样奇奇怪怪的问题等待我们去解决,有些可以用AI加速,有些则需要自己摸索。所以对大家来说,越早动手,工程积累越多,优势越大。