MLOps
読み: エムエルオプス
MLOpsとはAI運用の要
かんたんに言うと
高級車を買ってもガソリンを入れず車検も通さなければただの鉄くずになるように機械学習モデルも継続的な整備がなければすぐに使い物にならなくなる。
AIモデルが本番環境で動かない問題を解消するMLOpsの基本概念
ソフトウェア開発におけるDevOpsの概念を機械学習に持ち込んだのがMLOpsである。だが実態はもっと泥臭い。
Jupyter Notebook上で精度99パーセントのモデルができたとデータサイエンティストが喜んでいても本番環境では全く動かない。そんな笑えない話が現場では毎日起きている。
PoCの段階では綺麗なデータセットが用意されているが本番のデータは欠損だらけでフォーマットもバラバラである。
開発環境と本番環境のギャップを埋めモデルを継続的にデプロイし監視する仕組みがなければAIプロジェクトは必ず頓挫する。
ただモデルを作るだけなら誰でもできる時代になった。問題はそれをどう運用し続けるかに懸かっている。
開発から運用までを回すMLOpsの仕組み
MLOpsの根幹はCIとCDそしてCTの3つにある。
継続的インテグレーションと継続的デリバリーは通常のシステム開発と同じである。コードの変更をテストし本番環境へ反映させる。
だが機械学習にはCTすなわち継続的トレーニングという厄介な要素が加わる。
データは日々変化する。昨日まで正しかった予測が今日には外れる。だから新しいデータでモデルを再学習させ続けなければならない。
これを手動でやろうとすると運用チームは疲弊しミスが頻発する。どこまで人の手を介在させるかは常に悩ましい。
完全に無人化するのはリスクが高すぎるが手動に頼ればスケールしない。このバランスをどう取るかが実務家の腕の見せ所である。
物流や製造現場での活用事例と代表的なMLOpsツール
物流の配送ルート最適化や製造業の不良品検知などリアルタイム性が求められる現場でMLOpsは真価を発揮する。
ツール選びも重要である。AWS環境ならAmazon SageMakerが手堅い。インフラからモデル構築まで一気通貫で揃う。
Google Cloud Vertex AIも強力である。特にBigQueryとの連携を多用するなら一択になる。
オンプレミスやマルチクラウド環境ならMLflowを推す。実験管理やモデルのバージョン管理においてデファクトスタンダードの地位を確立している。
ただしツールを導入しただけで運用が回るわけではない。ツールはあくまで道具でありプロセスを設計するのは人間の仕事である。
導入がもたらす利点と直面しやすい壁
モデルの精度劣化を引き起こすデータドリフトやコンセプトドリフトを早期に検知できるのが最大の利点である。
入力データの分布が変わったり予測対象の前提そのものが変化したりする現象は運用していれば必ず直面する。
これらを放置すればビジネスに甚大な損害を与える。
しかしMLOpsの構築には多大なコストと専門知識が要求される。データエンジニアとMLエンジニアそしてインフラエンジニアの連携が必須である。
そんな人材が社内に揃っている企業がどれだけあるだろうか。
外部に丸投げしてもドメイン知識がなければ使い物にならないシステムが納品されるだけである。内製化のハードルは極めて高いと言わざるを得ない。
自社にMLOpsが必要かを見極めるための評価基準
すべての企業にMLOpsが必要なわけではない。
月に1回バッチ処理で予測を出す程度のシステムなら大掛かりな基盤はオーバースペックである。
ROIを計算しTCOに見合うリターンが得られるかをシビアに評価しなければならない。
モデルの数が数個程度なら手動運用でもなんとかなる。だが数十個数百個と増えていくならMLOps基盤の構築は避けて通れない。
導入のタイミングを見誤ると技術的負債が雪だるま式に膨れ上がる。
いつ基盤投資に踏み切るか。その判断は非常に判断が分かれるところである。経営層の理解を得るのも一筋縄ではいかない。
当社の見解
当社はツール選定において実用性を第一方針にしている。カタログスペックやベンチマークスコアではなく、実務で1週間使い倒して初めて判断する。フレームワークを増やすほど管理コストが増える経験もした。フックを増やしすぎてAIが情報過多でパニックになったこともある。足し算だけでなく、引き算の判断が選定の質を決める。検証せずに導入したツールは、ほぼ例外なく3か月以内に使わなくなった。
同じ失敗を二度としないAIエージェント
今のAIは、聞けば何でも答えてくれます。
でも、セッションが切れた瞬間に前回の失敗を忘れます。
当社が開発しているAIは、過去の経緯を念頭に置いて、
聞かれる前に「それは前回うまくいきませんでした」と声をかけます。
人間にも同じ失敗をさせず、AI自身も繰り返しません。
古参の社員が横にいるように、黙っていても気づいてくれる。
それが、当社が考える本当のAI社員です。