跳转到内容

简介

AI-Lib 是一个开源生态系统,用于标准化应用程序与 AI 模型的交互方式。您无需为每个 AI 服务编写特定于供应商的代码,只需使用统一的 API —— 协议配置会处理其余一切。

所有逻辑都是运算符,所有配置都是协议。

传统 AI SDK 将供应商特定逻辑嵌入代码:不同的 HTTP 端点、不同的参数名、不同的流式格式、不同的错误码。切换供应商时,您需要重写代码。

AI-Lib 采用了不同的方法:

  • AI-Protocol 在 YAML 清单中定义如何与每个供应商通信
  • 运行时实现(Rust、Python)读取这些清单并执行请求
  • 零硬编码逻辑 — 代码中没有任何 if provider == "openai" 之类的分支
项目角色语言版本分发渠道
AI-Protocol规范层YAML/JSONv0.5.0GitHub
ai-lib-rust运行时实现Rustv0.7.1Crates.io
ai-lib-python运行时实现Pythonv0.6.0PyPI

协议 v0.5.0 版本引入了 V2 协议特性:三层架构、标准化错误码、用于能力扩展的特性标志,以及确保各运行时行为一致的一致性测试套件。

基础层。YAML 清单描述了 35+ 个 AI 供应商:它们的端点、认证、参数映射、流式解码器配置、错误分类规则以及能力。JSON Schema 验证所有内容。

高性能运行时。基于运算符的流式管道通过可组合的阶段(Decoder → Selector → Accumulator → EventMapper)处理响应。内置熔断器、限流器和背压等弹性机制。发布于 Crates.io。

开发者友好的运行时。完整的 async/await 支持、Pydantic v2 类型安全、生产级遥测(OpenTelemetry + Prometheus)以及智能模型路由。发布于 PyPI。

  • 35+ 供应商 — OpenAI、Anthropic、Gemini、DeepSeek、Qwen 等
  • 统一流式 — 无论供应商如何,都使用相同的 StreamingEvent 类型
  • 协议驱动 — 所有行为在 YAML 中定义,而非代码中
  • 热重载 — 更新供应商配置无需重启
  • 弹性 — 熔断器、限流、重试、回退
  • 工具调用 — 跨供应商的统一函数调用
  • 嵌入 — 向量运算与相似度搜索
  • 类型安全 — 编译时(Rust)与运行时(Pydantic)验证