Ai-lib: 一个API客户端连通所有AI模型 (Rust)

核心价值

安装与快速开始

添加依赖后，可使用统一的API立即调用任意受支持的提供商。

[dependencies]
ai-lib = "0.2.21"
tokio = { version = "1", features = ["full"] }
futures = "0.3"

快速开始

use ai_lib::{AiClient, Provider, Message, Role, Content, ChatCompletionRequest};

#[tokio::main]
async fn main() -> Result<(), Box<dyn std::error::Error>> {
    let client = AiClient::new(Provider::Groq)?;
    let req = ChatCompletionRequest::new(
        client.default_chat_model(),
        vec![Message {
            role: Role::User,
            content: Content::Text("你好，世界！".to_string()),
            function_call: None,
        }]
    );
    let resp = client.chat_completion(req).await?;
    println!("回答: {}", resp.choices[0].message.content.as_text());
    Ok(())
}

环境变量配置

# 设置API密钥
export GROQ_API_KEY=your_groq_api_key
export OPENAI_API_KEY=your_openai_api_key
export ANTHROPIC_API_KEY=your_anthropic_api_key

# 代理配置（可选）
export AI_PROXY_URL=http://proxy.example.com:8080

流式处理

use futures::StreamExt;

let mut stream = client.chat_completion_stream(req).await?;
while let Some(chunk) = stream.next().await {
    let c = chunk?;
    if let Some(delta) = c.choices[0].delta.content.clone() {
        print!("{delta}");
    }
}

支持的提供商

统一枚举 Provider，无需为不同 API 分别写适配器；本地 + 云可混合（例如 Ollama + OpenAI）。

OpenAI

Groq

Anthropic

Gemini

Mistral

Cohere

HuggingFace

TogetherAI

DeepSeek

Qwen

Baidu Wenxin

Tencent Hunyuan

iFlytek Spark

Moonshot Kimi

Azure OpenAI

Ollama

xAI Grok

性能与方法说明

以下指标为 SDK 自身层（排除模型推理）。详情见仓库 README。请使用你的实际工作负载再行基准验证。

提示：真实场景受提供商速率限制与网络影响。数值并非保证，仅供参考。

架构快照

分层设计：应用 → 高级 API → 统一抽象 → 提供商适配器 → 传输（HTTP/流式 + 可靠性）→ 通用类型。

🔍

商业与支持

当前阶段：征集早期使用反馈与企业级需求。欢迎联系我们获取演示与合作方案。

常见问题