昨天凌晨OpenAI的发布会,各位没看过也听说过了。那些玄幻的音/视频对话倒是没上线。但 gpt-4o 这个模型的 text 和 vision 能力上线了,并且开放了API调用。
API按照官方定价,只有 gpt-4-turbo 的一半,相当具有性价比了。但其实 gpt-4o 的Token计算方式也迎来了更新,不再使用 gpt-3.5 和 gpt-4 系列的 cl100k_base ,改成了更便宜的 o200k_base。
OpenAI官方的仓库已经率先更新,不过只有 python 版本。他们的测试工具页面还未更新,显示 coming soon。
接下来就是我要说的重点,市面上现有的 one-api 和 new-api 等等依赖的 tokenizer 是一个 8个月 未曾维护的 golang 实现库: GitHub - pkoukk/tiktoken-go: go version of tiktoken 并不支持最新更便宜的 o200k_base 计算。
所以理论上使用这些做中转网关,调用 gpt-4o 价格是比官方更高的。于是我Fork了一份,添加了支持:GitHub - linux-do/tiktoken-go: go version of tiktoken 也已经在我魔改的 new-api 中更新: GitHub - linux-do/new-api: 基于One API的二次开发版本,仅供个人管理渠道使用,请勿用于商业API分发!
oaipro也已经使用了最新的Token计算方式,实在、省心。
结论是:gpt-4o 价格只有 gpt-4-turbo 的一半不到。
最后欢迎各位PR,谢谢。