導入事例
秘密保持契約に基づき、企業名と特定につながる情報は伏せています。数値はいずれも各案件の実測値です。
製造業 A社（従業員1,000名規模）
−64%
図面検索にかかる工数
設計変更のたびに、過去の類似図面を探す必要がある。だが図面の命名規則は年代ごとに違い、注記には手書きのスキャンも混じっていた。結果として、ベテラン設計者への口頭照会が事実上の検索手段になっていた。
図面を対象にマルチモーダル検索基盤を構築した。図番と部品名の表記ゆれを正規化する辞書は、設計部門と共同で整備。注記のOCR結果と図面メタデータを組み合わせたハイブリッド検索を実装した。検索結果には必ず元図面へのリンクを添え、AIの出力を根拠なしに信じさせない形にしている。
類似図面の特定にかかる工数が平均64%減。ベテラン設計者への照会は月210件から58件まで下がり、検索が特定の人に依存する状態はなくなった。
金融サービス B社
−52%
トークン費用
3年のあいだに部門ごとの個別契約が積み上がり、全社の総支出も利用実態も把握できていなかった。監査部門からログの一元化を求められていたが、契約が分散しているために対応できずにいた。
グループ会社1社を対象にLLMゲートウェイを社内VPC内に構築した。既存アプリケーションがエンドポイントの変更だけで移行できるよう、OpenAI互換スキーマを採用。用途に応じてモデルを自動で振り分け、定型的な問い合わせは軽量モデル、高難度の分析だけを上位モデルへ流す構成にした。あわせてプロンプトキャッシュを適用している。
月額のトークン費用が52%減。全リクエストの監査ログが一元化され、監査要件を満たした。利用部門は導入時の3部門から11部門へ広がり、部門別チャージバックによって費用負担を議論できるようになった。
研究機関 C
−71%
学習ジョブ待ち時間
研究者自身がクラスタ管理を兼務しており、障害が起きるたびに研究が止まっていた。ジョブの優先度制御が実質的に存在せず、大規模ジョブが小規模ジョブを長時間ブロックしていた。
データセンター事業者との共同受託により、128 GPU構成のクラスタをInfiniBand NDRファブリックで構築した。当社はSlurmによる優先度制御とプリエンプションの設計、研究グループ単位のフェアシェア配分、ノード故障時の自動隔離と再スケジュールを担当し、運用の一次対応も引き受けている。すべての構成はTerraformとAnsibleでコード化し、研究機関側へ移管できる形で納品している。
学習ジョブの平均待ち時間が71%減。研究者がクラスタ運用に使う時間は実質ゼロになった。運用開始後12か月でノード故障が9件発生したが、いずれもジョブの再実行だけで完結し、研究者への影響は出ていない。
SaaS事業者 D社
−35%
必要GPU台数
自社プロダクトに組み込んだLLM機能の応答が遅く、解約理由に挙がりはじめていた。台数を増やして凌いでいたが粗利が圧迫され、これ以上の増設は経営判断として通らない状態だった。
既存の推論構成をプロファイルし、ボトルネックがバッチング戦略とKVキャッシュの扱いにあることを特定した。vLLMの連続バッチングとページドアテンションを前提に構成を組み直し、FP8量子化と投機的デコーディングを併用。プロンプト前半の共通部分にキャッシュが効くよう、アプリケーション側のプロンプト構造もあわせて設計し直した。
p95レイテンシが2.4秒から0.9秒に改善。同時に必要GPU台数が35%減り、粗利率も上がった。解約理由に応答速度が挙がることはなくなった。
公共サービス提供事業者 E
−48%
一次回答までの所要時間
住民からの問い合わせ対応では、担当者が参照すべき規程や通知が多岐にわたり、経験の差がそのまま回答時間の差になっていた。制度上、外部APIへのデータ送信は選択肢に入らなかった。
元請けSIerとの共同体制で、オンプレミスで完結する推論環境を構築した。回答案には必ず根拠条文へのリンクを添え、担当者が確認したうえで発出する運用を前提に設計。AIが単独で回答を確定させない業務フローを、システム側で強制している。
一次回答までの所要時間が平均48%短縮。担当者の経験年数による回答時間のばらつきも縮まった。根拠条文が併記されるため、回答内容の検証も容易になっている。
精密機器メーカー F社
−29%
計算基盤の年間総所有コスト
新製品の設計期に計算需要が集中し、その時期に合わせてGPUを追加購入していた。年間を通じた平均稼働率は31%にとどまり、投資対効果を説明できない状態だった。
過去24か月の需要曲線を分析し、基本負荷はお客様保有のクラスタ、超過分はパブリッククラウドへバーストさせるハイブリッド構成を設計した。ジョブの性質に応じた振り分けルールを定義し、機密度の高いジョブは必ずお客様のクラスタに留まるよう制約を実装している。
計算基盤の年間総所有コストが29%減。保有クラスタの平均稼働率は31%から78%に上がった。設計期のジョブ待ち時間は増えていない。
※ 掲載内容は各社様のご了承を得たうえで、企業が特定されない範囲に編集しています。詳細な条件は個別にご説明します。
「GPUは何枚必要か」「持つべきか、借りるべきか」。いちばん多いのは、この段階のご相談です。要件が固まっていなくて構いません。