Portkey 是一款专为生产环境设计的 LLM 网关与可观测性平台，旨在解决企业在大规模应用大语言模型时面临的稳定性、成本可控性及性能优化难题。它作为中间件层，统一接入各类主流 LLM 提供商，提供智能路由、请求缓存、重试机制及细粒度的访问控制。核心价值在于通过标准化接口降低供应商锁定风险，同时利用实时监控和日志追踪提升应用的可维护性。适用于需要构建高可用 AI 应用的开发团队、AI 产品经理及技术负责人，特别是在多模型混合调用及严格成本控制场景下表现突出。
提供免费起步套餐，包含基础网关功能和有限的请求量，适合个人开发者或小规模测试。专业版和企业版采用订阅制，根据请求量、缓存大小及高级功能（如私有部署、SLA 保障）分级定价，具体费用需联系销售获取定制报价。
📬 不错过下一款好工具
每周精选推送，随时退订
LangFuse 是一款专为大型语言模型应用设计的开源可观测性平台，提供全链路追踪、成本监控与 Prompt 管理，帮助团队高效调试和优化 AI 应用性能。
Helicone 是一款专为大语言模型应用设计的开源可观测性平台，提供实时监控、成本分析与延迟追踪，助力开发者优化 AI 产品性能与预算。
LangSmith 是由 LangChain 团队打造的 LLM 应用全生命周期开发平台，提供追踪、评测与提示词优化功能，助力开发者高效调试和监控大模型应用。
AI产品评估
LLM评测平台
PromptFoo 是一款开源的大语言模型应用评测框架，通过自动化测试与多维度指标量化，帮助开发者高效评估提示词效果与模型表现。
