Hybrid Cloud
読み: ハイブリッド・クラウド
ハイブリッドクラウドとはAI基盤
機密性の高い自社データを安全なオンプレミス環境で保護しながらパブリッククラウドの強大な計算能力をAIの学習や推論に活用する統合的なインフラ構成手法。
かんたんに言うと
門外不出の秘伝のレシピは自社の厳重な金庫で管理しつつ、大量の食材の仕込みや調理プロセスだけを巨大な外部のセントラルキッチンに委託するような仕組み。
外に出せないデータとクラウドの計算力を両立するハイブリッドクラウドの基本構造
パブリッククラウドの計算リソースは魅力的だが、すべてのデータを外に出せる企業など存在しない。オンプレミスの閉じた環境と、外部の巨大なコンピュート能力をネットワークで繋ぎ、適材適所で使い分けるのがハイブリッドクラウドの基本骨格である。
ただ、言うほど簡単ではない。
NVIDIAのH100を自社で何十基も買い揃える予算があるなら話は別だが、大半の企業はAWSやGoogle CloudのGPUインスタンスに頼らざるを得ない。学習フェーズではパブリッククラウドの膨大なリソースを叩き、推論フェーズではプライベートクラウドやエッジコンピューティング環境にモデルをデプロイして動かす。このデータの流れをどう制御するか。設計者の腕が試されるところである。
製造現場と法務部門が直面するAIインフラの現実
現場の要件は常に泥臭い。例えば製造業の工場ライン。不良品検知のAIを動かすのに、いちいちクラウドに画像データを送っていてはレイテンシの壁にぶつかる。エッジ側で即座に推論を返す仕組みが要る。
法務部門の契約書レビューAIも同様である。未発表のM&A情報が含まれるドキュメントを、いくらセキュアだと言われても外部のAPIに投げる決断ができるだろうか。おそらく判断が分かれる。
ここで出番となるのがAWS OutpostsやGoogle Cloud Anthos、あるいはRed Hat OpenShiftといったプラットフォーム群である。自社のデータセンター内にクラウドベンダーのマネージド環境を持ち込み、オンプレミスでありながらクラウドと同じ操作感でコンテナをオーケストレーションする。ただ、ライセンス費用やハードウェアの維持費を計算すると、ため息が出るほど高額になることも多い。
ハイブリッド環境がもたらす恩恵と運用上の落とし穴
コンプライアンス要件の遵守とリソースの柔軟な調達を両立できる点は確かに素晴らしい。だが、インフラ担当者からすれば悪夢の始まりでもある。
オンプレミスとクラウドを跨ぐネットワーク帯域は十分か。
よくある落とし穴が、クラウド側でファインチューニングした巨大なモデルの重みデータをオンプレ側に引き込む際の転送料金である。テラバイト級のデータ移動が頻発すれば、月末の請求書を見て青ざめることになる。ベンダーロックインを嫌ってマルチクラウドまで手を出そうとするアーキテクトもいるが、運用負荷が跳ね上がるだけで終わるケースを山ほど見てきた。TCOをどう見積もるか、本当に悩ましい。
自社に最適なAIインフラを見極めるための評価基準
データガバナンスの基準をどこに引くか。これがインフラ選定のすべてを決める。
法務や人事の機密データは絶対に外に出さないというポリシーなら、オンプレミスに閉じた環境で小規模なオープンモデルを動かすしかない。逆に、社内規定をクリアできるなら、Microsoft Azure Stackなどを活用してクラウドの恩恵を最大限に引き出すルートも見えてくる。
PoCの段階ではパブリッククラウドで手軽に済ませても、本番稼働を見据えた途端にROIの計算が合わなくなることは日常茶飯事である。最新のLLMを使いたい事業部門と、インフラの予算を守りたい管理部門の綱引きは終わらない。どちらの言い分も分かるだけに、どこで妥協点を見出すか。結局のところ、自社のコアコンピタンスとなるデータをどこまで自らの手でコントロールする覚悟があるか。その一点に尽きる。
当社の見解
当社は機密情報のマスキング処理を全てローカルAIで行っている。これにより機密情報を外部に送信せずにAI処理できるようになった。だが、AIが嘘をつくハルシネーションの問題は依然としてある。確認していないのに「確認しました」と言う。当社はこの前提で運用を設計している。事実と推測の強制分離、ファクトチェック機能、3つのAIと人間の同士の三重検証を行っている。どこまでいっても、AIは完璧ではない。理論上100%安全設計をしていても、AIも人間も想定しないことは起こるものだ。その万が一に備えておくことが、AIを使う上では前提になっている。だろうではなく、かもしれない運用がAIを使う上での安全基盤となっている。
同じ失敗を二度としないAIエージェント
今のAIは、聞けば何でも答えてくれます。
でも、セッションが切れた瞬間に前回の失敗を忘れます。
当社が開発しているAIは、過去の経緯を念頭に置いて、
聞かれる前に「それは前回うまくいきませんでした」と声をかけます。
人間にも同じ失敗をさせず、AI自身も繰り返しません。
古参の社員が横にいるように、黙っていても気づいてくれる。
それが、当社が考える本当のAI社員です。