开源生态系统

一套协议，
统一所有 AI 服务商。

AI-Lib 是一个开源生态系统，标准化 AI 模型交互方式。一套规范驱动 Rust 和 Python 运行时——支持 35+ 服务商，零硬编码逻辑。

35+

AI 服务商

核心项目

硬编码逻辑

语言运行时

三个项目，一个生态系统

规范层定义规则。两种运行时实现将规范付诸实践。

与供应商无关的规范。YAML 清单定义如何与每个 AI 服务商通信——零硬编码逻辑。

高性能 Rust 运行时。V2 标准错误码、功能开关、基于算子的流式管道、编译时安全、亚毫秒级开销。

开发者友好的 Python 运行时。V2 标准错误码、按能力扩展、完整异步支持、Pydantic v2 类型、生产级遥测。

「所有逻辑都是算子，所有配置都是协议。」每个服务商的行为都在 YAML 中声明——运行时不含任何硬编码的服务商逻辑。

服务商端点、认证、参数映射、流式解码器和错误处理——均在 YAML 清单中声明，由 JSON Schema 验证。

流式响应流经可组合算子：Decoder、Selector、Accumulator、FanOut、EventMapper。每个算子均由协议驱动。

无需重启即可更新服务商配置。协议变更自动传播到运行时。通过配置而非代码添加新服务商。

三层协同工作——规范定义规则，运行时执行规则，应用消费统一接口。

从用户请求到统一的流式事件——每一步都由协议驱动。

同一协议，各有优势。选择适合你技术栈的运行时。

能力	AI-Protocol	Rust SDK	Python SDK
类型系统	JSON Schema	编译时（Rust）	运行时（Pydantic v2）
流式	SSE/NDJSON 规范	tokio async streams	async generators
弹性	重试策略规范	熔断器、限流器、背压	ResilientExecutor 及所有模式
嵌入	—	向量运算、相似度	向量运算、相似度
分发	GitHub / npm	Crates.io	PyPI
最适合	规范与标准	系统、性能关键	ML、数据科学、原型开发