LLM
読み: エルエルエム
LLMとは大規模言語モデルの基礎
LLMはLarge Language Modelの略称でありインターネット上の膨大なテキストデータを学習して自然言語処理を行うAIの基盤技術。人間と同等レベルの自然な文章の生成や要約や翻訳をこなし単なるチャットボットの裏側にとどまらず企業システムの根幹を担うエンジンとして機能する。
かんたんに言うと
過去数十年分の新聞や書籍をすべて暗記し次に続く確率が最も高い単語を瞬時に予測してパズルを組み上げる超高速のタイピストのようなものである。
LLMが膨大なテキストデータを学習して業務を変える次世代AIの言語基盤
LLMはLarge Language Modelの略称であり自然言語処理の領域で現在主流となっている技術。Transformerと呼ばれるディープラーニングのアーキテクチャを採用しニューラルネットワーク内に数百億から数兆というパラメータを保持している。
この巨大なパラメータ群が文脈を理解し次に来る確率が最も高い単語を予測する。
ただの確率計算である。
だがその計算規模が桁違いになったことで人間が書いたとしか思えない文章を生成できるようになった。ChatGPTやClaudeやGeminiといったサービスはすべてこのLLMを裏側で動かしている。単なる対話ツールとして扱うのはもったいない。自社の業務システムに組み込むことで真価を発揮する。
法務や経理の現場における実務適用と代表的ツール
現場でLLMをどう使うか。
例えば法務部門での契約書レビューである。過去の取引データと法務省のガイドラインをRAGで参照させればNDAの抜け漏れチェックを数秒でこなす。経理部門なら各社から送られてくるフォーマットがバラバラの請求書から金額や支払期日を抽出してERPに流し込む処理を任せられる。
ここで使うモデルの選定は悩ましい。
複雑な推論が求められる法務チェックならGPT-4oやClaude 3.5 Sonnetが候補になる。一方で経理の単純なデータ抽出なら処理速度が速くAPIコストの安いGemini 1.5 Flashで十分かもしれない。適材適所でモデルを使い分ける泥臭い設計が実務では求められる。
確率モデルゆえの限界とオンプレミスの選択肢
LLMはもっともらしい嘘をつく。ハルシネーションと呼ばれる現象である。
確率で単語を紡いでいる以上この問題をゼロにするのは原理的に不可能に近い。プロンプトエンジニアリングで出力のブレを抑え込む努力は必要だが最終的な確認をどこまでシステムに委ねるかは判断が分かれる。
製造業の設計データや未公開の買収情報など絶対に外部に出せないデータを扱う場合はどうするか。
パブリッククラウドのAPI経由でデータを送ることに抵抗がある企業は多い。その場合はLlama 3やQwenといったオープンモデルを自社のオンプレミス環境に構築しファインチューニングを施すアプローチをとる。初期投資はかさむが情報漏洩のリスクは物理的に遮断できる。
当社の見解
当社は機密情報のマスキング処理を全てローカルAIで行っている。これにより機密情報を外部に送信せずにAI処理できるようになった。だが、AIが嘘をつくハルシネーションの問題は依然としてある。確認していないのに「確認しました」と言う。当社はこの前提で運用を設計している。事実と推測の強制分離、ファクトチェック機能、3つのAIと人間の同士の三重検証を行っている。どこまでいっても、AIは完璧ではない。理論上100%安全設計をしていても、AIも人間も想定しないことは起こるものだ。その万が一に備えておくことが、AIを使う上では前提になっている。だろうではなく、かもしれない運用がAIを使う上での安全基盤となっている。
同じ失敗を二度としないAIエージェント
今のAIは、聞けば何でも答えてくれます。
でも、セッションが切れた瞬間に前回の失敗を忘れます。
当社が開発しているAIは、過去の経緯を念頭に置いて、
聞かれる前に「それは前回うまくいきませんでした」と声をかけます。
人間にも同じ失敗をさせず、AI自身も繰り返しません。
古参の社員が横にいるように、黙っていても気づいてくれる。
それが、当社が考える本当のAI社員です。