AI-Lib
开源生态系统

一套协议,
统一所有 AI 服务商。

AI-Lib 是围绕开放协议与多语言运行时构建的 AI 客户端基础设施。能力以声明式清单标准化——在异构服务商之上提供一致执行、模型路由、策略约束与韧性管道。

37
AI 服务商
6
核心项目
0
硬编码逻辑
4
语言运行时

六个项目,一个生态系统

规范层定义规则。四种运行时实现(Rust、Python、TypeScript、Go)将规范付诸实践。

v1.1.0

AI-Protocol

与供应商无关的规范。V2 三环清单含 MCP、Computer Use 与多模态 Schema——零硬编码逻辑。

  • 37 个服务商(12 份 V2 清单 + 完整 V1 集)
  • V2 三层金字塔架构
  • STT/TTS/Rerank 清单(Jina、OpenAI、Cohere)
  • MCP / Computer Use / 多模态 Schema
  • ProviderContract + 定价 Schema
  • CLI 验证与检查工具
  • JSON Schema 验证
  • 热重载配置
v1.2.0

ai-lib-rust

高性能 Rust 运行时。E/P 工作区(ai-lib-core + ai-lib-contact),清单驱动的 Pipeline + AiClient,结构化输出与 feature 门控能力模块。

  • AiClient + 算子流式管道
  • ai-lib-core / ai-lib-contact 双 crate
  • 13 个 V2 标准错误码
  • 结构化输出与 text-tool (TTC)
  • 可选:embeddings、MCP 桥接、computer_use(feature)
  • 可选韧性层 ai_lib_rust::resilience
  • Crates.io v1.2.0
v1.1.0

ai-lib-python

开发者友好的 Python 运行时。ProviderDriver 抽象、MCP 工具桥、Computer Use 安全策略、扩展多模态、STT/TTS/Rerank 扩展。

  • ProviderDriver(OpenAI/Anthropic/Gemini)
  • MCP 工具桥 + 命名空间隔离
  • Computer Use + SafetyPolicy
  • STT/TTS/Rerank 扩展
  • Capability Registry(pip extras)
  • Pydantic v2 + 完整 async/await
  • 75+ V2 测试,发布于 PyPI
v1.1.0

ai-lib-ts

TypeScript 运行时。HttpTransport + 清单解析,/core 与 /contact 入口,策略层可选。

  • AiClient + 清单驱动 HTTP 聊天
  • /core(E)与 /contact(P)入口
  • 13 个 V2 标准错误码
  • StreamingEvent event_type 判别
  • 可选:EmbeddingClient、McpToolBridge(格式转换)
  • 默认 transport 重试;CB/RL 需显式配置
  • npm v1.1.0
v1.1.0

ai-lib-go

Go 运行时(v1.1.0)。pkg/ailib 执行层 + pkg/contact 回退策略;协议优先 HTTP 与 ExecutionMetadata。

  • pkg/ailib Client + 清单 HTTP 聊天
  • pkg/contact FallbackClient(熔断)
  • 13 个 V2 标准错误码
  • ChatStream SSE 解码(默认 openai_sse)
  • 能力门控端点(MCP/CU 路由)
  • Go 1.21+ context API

协议驱动设计

「所有逻辑都是算子,所有配置都是协议。」每个服务商的行为都在 YAML 中声明——运行时不含任何硬编码的服务商逻辑。

声明式配置

服务商端点、认证、参数映射、流式解码器和错误处理——均在 YAML 清单中声明,由 JSON Schema 验证。

基于算子的管道

流式响应流经可组合算子:Decoder、Selector、Accumulator、FanOut、EventMapper。每个算子均由协议驱动。

热重载就绪

无需重启即可更新服务商配置。协议变更自动传播到运行时。通过配置而非代码添加新服务商。

生态系统架构

三层协同工作——规范定义规则,运行时执行规则,应用消费统一接口。

AI-Lib 生态系统架构 应用层 运行时层 协议层 Web 应用 / API 服务 Rust / Python / TS 你的应用代码 AI 智能体 多轮对话 / 工具调用 CLI 工具 批处理 / 数据管道 测试与开发 Mock 服务 ai-lib-rust v1.2.0 AiClient Pipeline Transport Resilience Embeddings Cache / Batch Crates.io · tokio + reqwest · <1ms overhead ai-lib-python v1.1.0 AiClient Pipeline Transport Resilience Telemetry Routing PyPI · httpx + Pydantic v2 · async/await ai-lib-ts v1.1.0 AiClient Pipeline Transport Resilience MCP Bridge Batch NPM · fetch + Zod · ESM / CJS 加载协议清单 AI-Protocol v1.1.0 spec.yaml 核心规范 providers/*.yaml 37 个服务商清单 models/*.yaml 模型注册表 YAML 定义 → JSON 编译 → 运行时消费 · 无供应商锁定 ai-protocol-mock v1.0.1 模拟服务器 本地测试 响应录制 快照测试 协议兼容性验证 开发测试 · CI/CD · 无需真实 API 模拟

工作原理

从用户请求到统一的流式事件——每一步都由协议驱动。

请求-响应数据流 请求流 → 用户请求 chat() AiClient 统一请求 Protocol compile_request() Transport HTTP POST AI 服务商 OpenAI, etc. ← 响应流 (SSE/JSON) 字节流 SSE / NDJSON Decoder 解码帧 Pipeline Select → Accumulate → Map EventMapper StreamingEvent 应用消费 统一事件 所有参数映射和事件规范化由协议清单驱动 — 零硬编码逻辑 统一事件类型: PartialContentDelta · ToolCallStarted · PartialToolCall · StreamEnd

选择你的运行时

同一协议,各有优势。选择适合你技术栈的运行时。

能力 AI-Protocol Rust SDK Python SDK TypeScript SDK Go SDK
类型系统 JSON Schema 编译时(Rust) 运行时(Pydantic v2) 编译时(TypeScript) 编译时(Go Structs)
流式 SSE/NDJSON 规范 tokio async streams async generators AsyncIterator + fetch 原生流式迭代 (Native stream iteration)
弹性 重试策略规范 熔断器、限流器、背压 ResilientExecutor 及所有模式 RetryPolicy、CircuitBreaker、RateLimiter 上下文超时、自动重试
V2 驱动 ProviderContract 规范 Box<dyn ProviderDriver> ProviderDriver ABC ManifestV2 + HttpTransport ProviderDriver 接口
MCP mcp.json 规范 McpToolBridge McpToolBridge McpToolBridge 规划中
Computer Use computer-use.json 规范 ComputerAction + SafetyPolicy ComputerAction + SafetyPolicy
多模态 multimodal.json 规范 MultimodalCapabilities MultimodalCapabilities SttClient、TtsClient、RerankerClient MultimodalCapabilities
嵌入 向量运算、相似度 向量运算、相似度 EmbeddingClient EmbeddingClient
分发 GitHub / npm Crates.io PyPI npm goproxy
最适合 规范与标准 系统、性能关键 ML、数据科学、原型开发 Node.js、npm 生态、全栈 高并发后端、微服务

支持 37 个 AI 服务商

通过协议配置驱动,无需任何硬编码即可接入全球和中国区主流 AI 服务商。6 个 V2 清单含 MCP/CU/多模态声明。

全球服务商

OpenAI OpenAI
Anthropic Anthropic
Google Gemini Google Gemini
Groq Groq
Mistral Mistral
Cohere Cohere
Azure OpenAI Azure OpenAI
Together AI Together AI
Hugging Face Hugging Face
Grok Grok
Ollama Ollama
D
DeepInfra
O
OpenRouter
N
NVIDIA
F
Fireworks
R
Replicate
A
AI21 Labs
C
Cerebras
P
Perplexity
L
Lepton AI

中国区服务商

DeepSeek DeepSeek
Qwen Qwen
D
Doubao
Z
Zhipu GLM
Baidu ERNIE Baidu ERNIE
Tencent Hunyuan Tencent Hunyuan
iFlytek Spark iFlytek Spark
Moonshot Moonshot
M
MiniMax
B
Baichuan
Y
Yi / 01.AI
S
SiliconFlow
S
SenseNova
T
Tiangong

准备好开始了吗?

阅读文档,选择你的运行时(Rust、Python、TypeScript 或 Go),从今天开始使用 37 个 AI 服务商进行开发。