这是一个高性能的 AI 接口透明代理服务,

假如你要开发一个 AI 软件,且需要接入多家的大模型,

那么,它就是专门为你设计的。

它保留了各大模型的原生 API 格式,拥有高性能的密钥池,

支持负载均衡、分布式主从部署、全面的数据监控统计,

不管是自己的私人项目,还是企业级的项目,都能用得到。

gpt-load:https://github.com/tbphp/gpt-load

添加新评论