开源AI网关对比——One API、New API、LiteLLM、Portkey、AISIX的技术选型

当前开源AI网关百花齐放，选型需结合实际场景。One API（及社区分支New API）主打统一接口聚合，支持数十种模型提供商，并提供完善的密钥管理和费用统计，适合中小团队快速集成；但缺乏高级路由策略和生产级高可用特性。LiteLLM轻量且兼容OpenAI格式，擅长负载均衡和故障转移，部署简单，适合作为代理层，但缺少可视化管理和细粒度限流。

Portkey侧重可观测性与语义缓存，提供强大的日志追踪和提示词实验能力，适合企业级LLM运维，但社区版功能有限，企业版收费较高。AISIX则聚焦于企业级安全与合规，支持内容审核和敏感数据脱敏，适用于金融、政务场景，但生态较小，文档更新较慢。

选型建议：开发测试选LiteLLM或One API；生产级高并发推荐Portkey（若预算充足）或基于One API二次开发；安全合规优先则AISIX。也可采用组合方案：LiteLLM作为路由核心，搭配Prometheus监控，满足定制化需求。