📖 AI 总结

Switchyard是NVIDIA推出的开源Rust代理与库，用于解决AI编码代理与不同LLM后端之间的API格式不兼容问题。它能在OpenAI Chat Completions、OpenAI Responses和Anthropic Messages三种格式间进行双向转换，使客户端无需改写即可访问vLLM、NVIDIA NIM或Ollama等后端服务。该工具支持三种部署方式：面向编码代理的启动器、独立代理服务器和可嵌入的Rust库。其核心优势在于将客户端API与后端API解耦，并内置路由算法和运维指标记录功能。不过，NVIDIA明确标注其为预alpha实验版本，不建议生产环境使用，API和算法在v1.0前将有重大变更。项目采用Apache 2.0许可，文档托管于NVIDIA官方站点。