エッジデバイスとは
エッジデバイスとは、データが発生する現場（エッジ）に設置され、クラウドに送信せずにローカルでデータ処理やAI推論を実行する端末の総称
読み: エッジデバイス
かんたんに言うと
AIの頭脳を現場に置く装置。クラウドに画像を送って判定を待つのではなく、カメラの横にあるコンピュータがその場で判定する。工場の不良品検知、店舗の来客分析、自動運転の障害物検知など、即座に判断が必要な場面で使われる。
クラウド推論との使い分け
クラウド推論は高性能なGPUを使えるため精度が高いが、通信の往復に時間がかかる。エッジデバイスは性能は限られるが即時に結果を返せる。自動運転のように100ミリ秒の遅延が事故に直結する用途ではエッジ一択。請求書の読み取りのようにリアルタイム性が不要な用途ではクラウドの方が合理的。両者を併用し、緊急判断はエッジ、精密分析はクラウドという構成も一般的。
代表的なエッジデバイス
NVIDIA Jetsonシリーズが産業用途で最も普及している。GPUを搭載しており、画像認識やLLMの小型モデルを動かせる。Google Coral（TPU搭載）は低消費電力で画像分類に強い。Apple Neural EngineはiPhoneに搭載され、顔認識やSiriの音声処理をデバイス上で実行する。Raspberry PiにAIアクセラレータを追加する構成も研究用途で使われる。
エッジAIのモデル制約
エッジデバイスはメモリとGPU性能がクラウドより桁違いに小さい。70Bパラメータの大規模モデルは動かせない。量子化（4bit/8bit）やプルーニング（不要な重みの削除）でモデルを軽量化してからデプロイする。ONNX RuntimeやTensorRT、CoreMLなどの推論エンジンが最適化を担う。モデルの精度とデバイスの性能制約のバランスが設計の鍵になる。
導入時の判断基準
通信環境が不安定な現場（工場、農場、船舶）ではエッジデバイスが前提になる。プライバシー要件が厳しい場合（医療画像、監視カメラ）もデータを外部に送信しないエッジが適切。デバイスの初期費用、電力消費、メンテナンス体制を含めたTCOで判断する。クラウドの月額費用と比較して、一定の処理量を超えるとエッジの方がコスト効率が良くなる分岐点がある。
当社の見解
当社はツール選定において実用性を第一方針にしている。カタログスペックやベンチマークスコアではなく、実務で1週間使い倒して初めて判断する。フレームワークを増やすほど管理コストが増える経験もした。フックを増やしすぎてAIが情報過多でパニックになったこともある。足し算だけでなく、引き算の判断が選定の質を決める。検証せずに導入したツールは、ほぼ例外なく3か月以内に使わなくなった。