优测AI发现 · 学习 · 创造
查看大图 ↗
1. 配置Config.toml文件，填写您的API密钥和模型设置。
2. 运行Docker容器，挂载Config.toml文件。
3. 使用curl命令向网关发起API请求，指定LLM提供商。
1. 配置Config.toml文件，填写您的API密钥和模型设置。
2. 运行Docker容器，挂载Config.toml文件。
3. 使用curl命令向网关发起API请求，指定LLM提供商。
一个开源的AI网关，用于管理多个大型语言模型（LLM）提供商，如OpenAI、Anthropic、Gemini、Ollama、Mistral和Cohere。它提供内置分析、保护措施、速率限制、缓存和管理控制。支持HTTP和gRPC接口。
外部网站访问表现 · 与本站浏览量和用户评分分别统计
0 个月记录 · 0 个月有有效数据
该时间范围暂无有效数据
0 个月记录 · 0 个月有有效数据
该时间范围暂无有效数据
0 个月记录 · 0 个月有有效数据
该时间范围暂无有效数据
来源未明确统计范围
暂无地区分布数据
来源未明确统计范围
暂无流量渠道数据
该网关支持OpenAI、Anthropic、Gemini、Ollama、Mistral和Cohere。
您通过Config.toml文件配置网关，指定API密钥、模型设置和其他配置。
您使用Docker命令启动网关，挂载Config.toml文件到容器中。
正在载入评论…
真实会员评论，审核通过后公开展示。回复不重复计入评分。
探索更多相关工具
