LiteLLM 项目称支持接入 100 多种大模型 API
AI 导读
据 LiteLLM 项目介绍，其 AI 网关采用 Rust 核心并提供 Python SDK，可通过 OpenAI 格式或原生格式调用 100 多种大模型 API。项目还称支持成本追踪、护栏、负载均衡和日志记录。
内容梳理
关键要点
- 项目称支持以 OpenAI 格式或原生格式调用 100 多种大模型 API。
- 项目列出成本追踪、护栏、负载均衡和日志记录功能。
据 LiteLLM 项目介绍，其 AI 网关采用 Rust 核心并提供 Python SDK，可通过 OpenAI 格式或原生格式调用 100 多种大模型 API。项目还称支持成本追踪、护栏、负载均衡和日志记录。