Python ランタイ�?/span>
AI-Protocol 向け�?/span>
開発者フレンドリーなプロトコル駆動型 AI クライアント。V2 標準エラーコード�?3種類)、機能ベース�?extras�?つのオプショ�?+ フル)、完全な非同期サポート、Pydantic v2 型安全性、本番グレードのテレメトリ、スマートモデルルーティング。Python 3.10+�?
pip install ai-lib-python
主な機能
V2 エラーコードと機�?extras
一貫したエラー処理のための 13 種類�?V2 標準エラーコード。機能ベース�?extras�? つのオプショ�?extras とフ�?extra で最小またはフルインストールに対応�?
非同期優先デザイ�?/h3>
ネイティ�?async/await を全面採用。httpx 駆動のトランスポートとコネクションプーリング。CancellableStream でストリームのグレースフル終了�?
Pydantic v2 �?/h3>
Pydantic v2 バリデーションによる完全な型ヒント。ProtocolManifest、Message、ContentBlock、StreamingEvent �?すべて型安全でランタイム検証付き�?
ResilientExecutor
ResilientExecutor は背圧、レート制限、サーキットブレーカー、指数バックオフによるリトライを統合。PreflightChecker が実行前にリクエストをゲート�?
モデルルーティン�?/h3>
ModelManager �?ModelArray によるインテリジェントなモデル選択。ラウンドロビン、加重、コストベース、品質ベースのルーティング戦略�?
本番テレメト�?/h3>
Prometheus エクスポート付き MetricsCollector。OpenTelemetry による分散トレーシング。構造化ログ。ヘルスモニタリング。ユーザーフィードバック収集�?
構造化出力
JSON モード設定、Pydantic モデルからのスキーマ生成、出力検証。コンテンツフィルターと PII 検出のガードレール�?
Pythonic で直感的
自然に感じるクリーン�?Pythonic �? API。モデル識別子からクライアントを作成し、フルーエントビルダーでリクエストを構築、統一されたストリーミングイベントをイテレート�?
同じコードがすべてのプロバイダーで動作。OpenAI から Anthropic、DeepSeek への切り替えは�? つの文字列を変更するだけ �? プロトコルマニフェストが残りを処理します�?
from ai_lib_python import AiClient
# Works with ANY provider
client = await AiClient.create(
"anthropic/claude-3-5-sonnet"
)
# Streaming chat
async for event in client.chat() \
.user("Explain AI-Protocol") \
.temperature(0.7) \
.max_tokens(1000) \
.stream():
if event.is_content_delta:
print(event.as_content_delta.text,
end="")
# Non-streaming with stats
response, stats = await client.chat() \
.user("Summarize this") \
.execute_with_stats()
print(f"Tokens: {stats.total_tokens{'}'}")
print(f"Latency: {'{'}stats.latency_ms{'}'}ms")
内部アーキテクチ�?/h2>
Rust ランタイムと同じレイヤードアーキテクチャ �? プロトコル駆動、オペレーターベース、デフォルトでレジリエント�?
モジュール概�?/h2>
client/ + errors/standard_codes/
AiClient、AiClientBuilder、ChatRequestBuilder、ChatResponse、CallStats、CancelToken、CancellableStream�?
protocol/
ProtocolLoader(ローカ�?環境変数/GitHub)、Pydantic マニフェストモデル、JSON Schema
バリデーター、ホットリロード対応�?
pipeline/
Decoder(SSE、JSON Lines、Anthropic
SSE)、Selector(JSONPath)、Accumulator、FanOut、EventMapper(プロトコル駆動、デフォルト、Anthropic)�?
resilience/
ResilientExecutor、RetryPolicy、RateLimiter、CircuitBreaker、Backpressure、FallbackChain、SignalsSnapshot、PreflightChecker�?
routing/
ModelManager、ModelArray、選択戦略(ラウンドロビン、加重、コストベース、品質ベース)。主要プロバイダー向けプリセットカタログ�?
telemetry/
MetricsCollector(Prometheus)、Tracer(OpenTelemetry)、構造化
Logger、HealthChecker、ユーザーフィードバック収集�?
embeddings/ + tokens/
ベクトル操作付き EmbeddingClient。TokenCounter(tiktoken
統合)と使用量追跡のためのコスト推定�?
plugins/ + structured/
プラグインベースクラス、PluginRegistry、HookManager、ミドルウェアチェーン。JSON
モード設定、SchemaGenerator、OutputValidator�?
client/ + errors/standard_codes/
AiClient、AiClientBuilder、ChatRequestBuilder、ChatResponse、CallStats、CancelToken、CancellableStream�?
protocol/
ProtocolLoader(ローカ�?環境変数/GitHub)、Pydantic マニフェストモデル、JSON Schema バリデーター、ホットリロード対応�?
pipeline/
Decoder(SSE、JSON Lines、Anthropic SSE)、Selector(JSONPath)、Accumulator、FanOut、EventMapper(プロトコル駆動、デフォルト、Anthropic)�?
resilience/
ResilientExecutor、RetryPolicy、RateLimiter、CircuitBreaker、Backpressure、FallbackChain、SignalsSnapshot、PreflightChecker�?
routing/
ModelManager、ModelArray、選択戦略(ラウンドロビン、加重、コストベース、品質ベース)。主要プロバイダー向けプリセットカタログ�?
telemetry/
MetricsCollector(Prometheus)、Tracer(OpenTelemetry)、構造化 Logger、HealthChecker、ユーザーフィードバック収集�?
embeddings/ + tokens/
ベクトル操作付き EmbeddingClient。TokenCounter(tiktoken 統合)と使用量追跡のためのコスト推定�?
plugins/ + structured/
プラグインベースクラス、PluginRegistry、HookManager、ミドルウェアチェーン。JSON モード設定、SchemaGenerator、OutputValidator�?