01
データを外に出さない構成を既定にする
推論も学習も、お客様の管理境界内で完結する構成を第一案としてお出しします。外部APIを使う場合は、どのデータが外に出るかを明示します。
技術と体制
技術と体制
使っている技術、案件の進め方、運用中の体制。すべて公開しています。検討の初期段階で、当社に何ができるかを判断していただくためのページです。
技術スタック
技術スタック
実案件で運用実績のあるものだけを記載しています。
| 計算・ハードウェア | NVIDIA H100 / H200 / B200 / L40S / A100、InfiniBand NDR・HDR、RoCEv2、液冷／高密度空冷ラック |
|---|---|
| オーケストレーション | Slurm、Kubernetes、Kueue、Ray、Karpenter、Argo Workflows |
| ストレージ | Lustre、WEKA、Ceph、MinIO、NVMe-oF |
| 推論・学習 | vLLM、TensorRT-LLM、SGLang、DeepSpeed、FSDP、Megatron-LM、PyTorch |
| モデル運用 | MLflow、Weights & Biases、LangFuse、自社製の評価ハーネス |
| 基盤・IaC | Terraform、Ansible、Pulumi、GitHub Actions、ArgoCD |
| 監視 | Prometheus、Grafana、Loki、Tempo、DCGM Exporter、OpenTelemetry |
| クラウド | AWS、Google Cloud、Microsoft Azure、さくらインターネット、国内DC事業者各社 |
導入プロセス
導入プロセス
初回のご相談から本番稼働まで、標準的にはこの順で進みます。段階ごとに打ち切れる契約形態にしています。
01
初期相談
無償・1〜2回
現状の課題、既存資産、想定予算を伺います。要件は固まっていなくて構いません。当社が適任でなければ、その場でそうお伝えします。
02
アセスメント
2〜4週間
ワークロードを実測し、既存構成を調べ、原価を試算して、構成案を複数お出しします。この成果物だけを持って他社様に発注いただいても構いません。
03
PoC／設計
6〜10週間
小規模構成で性能と原価を実測し、本番設計に反映します。継続するかどうかの判断基準を、この段階で数値として決めておきます。
04
本番構築
3〜6か月
調達、設置、構成管理コードの整備、監視の実装、受け入れ試験。すべての構成をコードとして納品します。
05
運用・改善
月次契約
監視と一次対応。定例での稼働率・原価レビュー。構成の継続的な見直し。内製化のご要望があれば、移管計画を並行して進めます。
運用体制とサービスレベル
運用体制とサービスレベル
個別契約により変わりますが、標準的な水準を記載します。
| 監視 | 24時間365日の自動監視（メトリクス・ログ・GPU健全性） |
|---|---|
| サポート受付 | 平日 9:30–18:00（時間外・休日は提携先との共同体制で個別対応） |
| 一次応答時間 | 重大障害は30分以内、通常は1営業時間以内 |
| 稼働率目標 | 月次99.5%（計画停止を除く） |
| 定例報告 | 月次レポート（稼働率、ジョブ統計、原価、改善提案） |
| 変更管理 | すべての構成変更をPull Requestとして記録・レビュー |
セキュリティの考え方
セキュリティの考え方
AI基盤は、学習データと推論入力という二つの経路で機密情報に触れます。当社の基本方針は次の四つです。
02
権限を検索結果まで貫通させる
RAG基盤では、元文書のアクセス権を検索結果に反映します。権限のない文書が回答の根拠に使われない。これを設定ではなく設計要件として扱います。
03
すべての推論を監査可能にする
誰が、どのモデルに、何を送り、何が返ったか。ゲートウェイ層で一元的に記録し、保持期間は契約で定めます。
04
秘密情報を成果物に残さない
構成管理コードに認証情報は含めず、秘密情報管理基盤を介した参照だけにします。納品前に自動走査をかけます。
体制について
規模の話を一つだけ、先に書いておきます。
当社は少人数の会社です。同時にお引き受けできる案件の数には、はっきり限りがあります。営業上は不利ですが、隠さずに書いておきます。
そのかわり、初回のご相談から運用まで、担当者は変わりません。構成の判断はすべて、代表を含む全員のレビューを通します。引き継ぎのたびに前提が失われる、ということが起きません。
128 GPUを超える大規模構築や、24時間365日の有人対応が必要な案件は、データセンター事業者およびSIerとの共同受託で対応します。当社が担うのは設計と運用設計、共同体制の中での技術責任です。この線引きも、最初にお伝えします。
まだ何も決まっていない段階で、呼んでください。
「GPUは何枚必要か」「持つべきか、借りるべきか」。いちばん多いのは、この段階のご相談です。要件が固まっていなくて構いません。