Generative AI
読み: ジェネレーティブ・エーアイ
生成AIとは業務を変える創造型AI
Generative AIは膨大な学習データからパターンや構造を抽出しテキストや画像および動画などのオリジナルコンテンツを自律的に生成する最新の人工知能技術である。従来の識別系AIがデータの分類や予測に特化していたのに対し、未知のデータを出力する点に特徴がある。
かんたんに言うと
腕利きの贋作師を想像してほしい。数万点のゴッホの絵を観察し、筆致や色彩の法則を完全に模倣して、誰も見たことのない新しいゴッホ風の絵を描き上げる。これがGenerative AIの振る舞いである。
基盤モデルとディープラーニングが支えるGenerative AIの生成原理
Generative AIの根幹を成すのはディープラーニングの進化形である基盤モデルである。テキスト生成を担うLLMを例に取ろう。OpenAIのGPT-4やAnthropicのClaude 3などは、インターネット上の膨大なテキストを飲み込み、次に来る単語の確率を計算し続けている。
単なる確率の計算である。
しかし、その規模が数千億パラメータという次元に達したとき、まるで人間が推論しているかのような振る舞いを見せ始めた。この創発的な能力こそが現在のブームの正体である。ただ、彼らは意味を理解しているわけではない。もっともらしい文字列を紡いでいるだけだという事実は、現場でシステムを組む人間として常に意識しておかなければならない。
現場の泥臭い実務をどう変えるか
法務部門での契約書レビューを考えてみよう。過去の膨大な契約データと自社のコンプライアンス基準をRAGで読み込ませたClaudeに、新規の取引基本契約書をチェックさせる。抜け漏れや不利な条項の洗い出しにかかる時間は劇的に減る。
経理部門ならどうだろうか。
領収書の読み取りから仕訳データの作成まで、従来はOCRとRPAの組み合わせで苦労していた処理が、マルチモーダルなLLMの登場で一気にシンプルになった。製造業の設計部門では、Midjourneyのような画像生成AIを使って新製品のコンセプトデザインを大量に出力し、インスピレーションの源泉として使う試みも始まっている。GitHub Copilotを導入した開発現場のコード産出量が増えるのは当然として、非エンジニアの業務にこそ地殻変動が起きている。
企業利用における技術的限界と現場のジレンマ
もっともらしい嘘、つまりハルシネーションをどう制御するか。これが実運用における最大の壁である。社内規程を尋ねたチャットボットが、存在しない架空の有給休暇制度をでっち上げた事例を私は知っている。
笑い話では済まない。
著作権侵害のリスクも悩ましい。生成された画像やテキストが、学習元データの権利を侵害していないか。現行の法整備が技術の進化に追いついていないため、どこまで許容されるかは法務担当者によっても判断が分かれる。コンプライアンスを重視するあまりガチガチの制限をかければ、誰も使わないただの箱になる。このトレードオフの着地点をどこに設定するか、現場の責任者は常に胃を痛めている。
自社導入を成功に導くための評価基準とセキュリティ対策
情報漏洩を防ぐため、社員にパブリックなWeb画面を使わせないのは今や常識である。エンタープライズ向けのAPIを経由して自社専用の環境を構築するか、あるいは機密性の高いデータのためにオンプレミス環境でオープンソースのLLMを動かすか。
どちらを選ぶべきか。
クラウドベンダーの閉域網サービスを利用するのが現在の主流だが、コストとの兼ね合いで悩ましいケースも多い。社内ガイドラインの策定も急務である。入力してはいけないデータの定義だけでなく、出力結果の最終責任は人間が負うという原則をどう現場に浸透させるか。技術的な防御策と運用ルールの両輪が回らなければ、Generative AIの導入は単なるリスクの増大に終わる。
当社の見解
当社は機密情報のマスキング処理を全てローカルAIで行っている。これにより機密情報を外部に送信せずにAI処理できるようになった。だが、AIが嘘をつくハルシネーションの問題は依然としてある。確認していないのに「確認しました」と言う。当社はこの前提で運用を設計している。事実と推測の強制分離、ファクトチェック機能、3つのAIと人間の同士の三重検証を行っている。どこまでいっても、AIは完璧ではない。理論上100%安全設計をしていても、AIも人間も想定しないことは起こるものだ。その万が一に備えておくことが、AIを使う上では前提になっている。だろうではなく、かもしれない運用がAIを使う上での安全基盤となっている。
同じ失敗を二度としないAIエージェント
今のAIは、聞けば何でも答えてくれます。
でも、セッションが切れた瞬間に前回の失敗を忘れます。
当社が開発しているAIは、過去の経緯を念頭に置いて、
聞かれる前に「それは前回うまくいきませんでした」と声をかけます。
人間にも同じ失敗をさせず、AI自身も繰り返しません。
古参の社員が横にいるように、黙っていても気づいてくれる。
それが、当社が考える本当のAI社員です。