プロジェクトで実装済み
- Unified model gateway with routing, API keys, policy, budgets, and audit
- Admin console and management API
- Local, Docker, database, and Cloudflare deployment paths
CinaToken / オープンソース・セルフホスト型モデルゲートウェイ。
CinaToken は、認証情報、モデルルーティング、利用ポリシー、トレース、コスト境界を、利用者がホストする一つの層にまとめます。 この説明は参考ユースケースです。現在の提供範囲は、以下の公開根拠とリリース状態で確認してください。
製品の根拠 / 現在の範囲。
以下の状態と機能は公開プロジェクトのリポジトリに基づきます。リンク先の根拠を超えて、顧客導入、マネージド SLA、本番提供を示すものではありません。
Gateway リポジトリにはローカル、Docker、Cloudflare の展開経路があります。このページはマネージドサービス SLA を主張しません。
検証日: · commit 3926095
このサイトが生成したサンプルデータです。顧客画面や稼働中の導入事例ではありません。
機能。
最小限の有用なワークフローから始め、境界とレビュー点を明確にします。
各アプリにプロバイダーキーを配布せず、管理された境界に保持します。
タスク、ポリシー、可用性に応じて経路を選択します。
ルーティング、ポリシー、利用情報を運用レビューに残します。
ワークフロー。
gateway_example { route = "policy"; budget = "example-team"; trace = true; }