DoiT Cloud Intelligence™DoiT Cloud Intelligence™
Integrations

OpenAIのトークンコストを掌握

OpenAIの利用状況、モデル構成、トークンコストを、プロジェクト・キー・チーム単位でリアルタイムに可視化。

OpenAIのモデル別支出ダッシュボードのモックアップ

本番環境でAI機能を展開するチームに選ばれています

Square
FanDuel
PlanetScale
CircleCI
Canva
Rippling
HelloFresh
Starburst

接続は数分

APIキー1つで、OpenAIを丸ごと可視化

読み取り専用の管理者キーでOpenAIの組織を接続するだけ。DoiTが利用状況、モデル単位のトークン数、請求データを自動で取り込みます。プロキシもSDK変更もCSVの手動エクスポートも不要。接続から数時間以内に、統合レポートが立ち上がります。

OpenAI連携のイメージ

できること

OpenAI運用の現実に即した設計

OpenAIの組織を接続したFinOpsやエンジニアリングのリーダーから、実際に寄せられる声に応えます。

利用状況の統合レポート

利用状況の統合レポート

独自のトークン計測器を組まずに、OpenAIの支出をプロジェクト・APIキー・モデル・チーム単位で切り分け。

リアルタイム異常検知

リアルタイム異常検知

トークンの急増や暴走プロンプトを、数時間ではなく数分で検知してアラート。

モデル構成の最適化

モデル構成の最適化

品質を落とさずに低コストなモデルで処理できるのに、GPT-4に流れているプロンプトを発見。

入力・出力トークンの内訳

入力・出力トークンの内訳

モデルごとに、入力・キャッシュ・出力トークンでコストを分解。

機能単位のコスト配賦

機能単位のコスト配賦

トークン支出を、呼び出し元のAPIキーだけでなく、その裏にある製品機能や顧客に結びつけて把握。

予算とガードレール

予算とガードレール

プロジェクト・チーム単位で予算を設定し、暴走エージェントで翌月の請求が跳ね上がる事態を未然に防止。

標準のダッシュボードが示すのは「何が起きたか」。Cloud Intelligence™は、その先の「どう動くか」まで支援します。

OpenAI標準の使用状況ページ、その先へ

  • マルチプロジェクト集約

    すべてのOpenAIプロジェクトと組織を横断した統合ビュー。任意のキーやモデルにドリルダウンできます。

  • リアルタイム異常アラート

    モデル・プロジェクト・キーの各軸で機械学習による検知を行い、SlackやEメールに通知。

  • モデルコストの予測

    新機能のGA前に、プロダクトの成長に対するトークン消費を見通します。

  • タグと配賦の整備

    APIキーを製品・顧客・コストセンターにマッピングし、共有分も財務が求める形で按分。

  • マルチクラウドAIの配賦

    OpenAIの支出をBedrock、Vertex、Azure OpenAIと統合し、AI関連コストを一元的に把握。

  • Forward Deployed Engineers

    チームの一員として最適化施策を実装する、世界トップクラスのクラウドアーキテクト。


急成長企業の基盤はDoiT Cloud Intelligence™

21%

導入後90日間の平均コスト削減率

28

平均導入期間

Oren Ashkenazy

DoiTの信頼性とシステムの柔軟性があるからこそ、エンジニアの手を煩わせずにAmazon EKSのworkloadsを安全に最適化できています。

Oren Ashkenazy

Director of DevOps and Cloud, Fiverr

OpenAIの組織を、今すぐ接続

トークン支出を、今日から掌握。

Frequently asked
questions

複数のプロジェクトやキーにまたがるOpenAIコストを可視化するには?

管理者キーでOpenAIの組織を一度接続するだけです。Cloud Intelligence™がすべてのプロジェクトとAPIキーの利用状況を取り込むため、単一のビューでトークン支出をプロジェクト・モデル・キー・チーム別に切り分けられます。独自の計測器もCSVの手動エクスポートも不要です。

OpenAIの利用状況データをCloud Intelligence™と連携させる最適な方法は?

OpenAIの組織に限定した、読み取り専用の管理者キーをご利用ください。DoiTがデータ取り込み、正規化、モデルごとの入力・出力・キャッシュトークンの日次レポートまで一手に担います。ほとんどのチームが1日以内に稼働を開始しています。

どのモデルや機能がトークン支出の大半を占めているかを確認できますか?

利用状況レポートで、総支出から特定のモデル・プロジェクト・APIキーまでドリルダウンできます。キーをマッピングすれば、SQLを書くことなく機能・顧客・環境でフィルタリング可能です。

OpenAIのコスト異常をリアルタイムで監視するには?

異常検知はモデル・プロジェクト・キーを横断して常時稼働しています。ループするエージェント、問題のあるプロンプト、想定外にバズった新機能など、トークン使用量がベースラインから外れると、推定原因とともにSlackまたはEメールでアラートが届きます。

OpenAIで、チームや製品機能ごとに予算を設定できますか?

はい。プロジェクト・キー・タグ付き機能ごとに予算としきい値を設定でき、支出が上限に近づくにつれて段階的にアラートを発信します。暴走エージェントが月末のサプライズになる事態を防ぎます。

OpenAIの支出を他のAIプロバイダーと合わせて見られますか?

Cloud Intelligence™はOpenAI、Azure OpenAI、Amazon Bedrock、Google Vertex AI、Anthropicを1つのレポートに統合。トークンあたりのコスト効率や、機能・顧客別のAI総コストを横並びで比較できます。

Cloud Intelligence™はOpenAI標準の使用状況ダッシュボードと何が違いますか?

OpenAIのダッシュボードは、あくまで利用状況のビューアです。Cloud Intelligence™はプラットフォームとして、プロバイダー横断のAI可視化、先回りした推奨、リアルタイム異常検知、予算とガバナンス、そしてデータをもとに実行まで伴走するForward Deployed Engineersへのアクセスを提供します。

OpenAIの組織を接続するとき、データは安全に扱われますか?

Cloud Intelligence™は、最小権限に絞った読み取り専用の管理者キーを使用します。取り込むのは利用状況と請求メタデータのみで、プロンプトや生成結果の内容は一切取得しません。プラットフォームはSOC 2 Type II認証を取得しています。