Projects

面向生产接入的 AI 工程组件,可快速评估,也可交给 coding agent 辅助集成。

available component

LLM Gateway Starter

OpenAI-compatible 模型网关,内置模型路由、fallback、限流、用量统计和 Docker Compose 部署。

available component

LLM Observability Starter

可自托管的 LLM 可观测性采集器,用于记录 trace、延迟、token、成本、反馈和评测事件。