Tutorial¶

基于GOST反向代理实现大模型API的智能路由

AI越来越火，相应的大模型也越来越多，对应的大模型供应商也是百花齐放，但现实是Token仍旧是有限资源，单一供应商的限制触手可及。于是多供应商的组合使用，根据模型名动态分配，越来越成为更具性价比的方案。