RotorQuant
読み: ロータークォント
RotorQuantとはTurboQuantを超える超高速KVキャッシュ圧縮
RotorQuantとは、TurboQuantをベースにクリフォード代数で回転計算を高速化したKVキャッシュ圧縮手法。TurboQuantの10〜19倍の速度を実現し、パラメータ数は44分の1。
かんたんに言うと
TurboQuantの「回転計算」を、もっと効率的な数学（クリフォード代数）で書き直した高速版。
クリフォードローターによる計算量削減
TurboQuantの回転処理を「3次元ごとの小さな回転」に置き換え、レジスタ内で完結させる。パラメータ数が44分の1に削減され、GPUのキャッシュ効率が最大化される。GitHubで公開済み。
速度特化のトレードオフ
TurboQuantがベクトル全体をグローバルに混ぜ合わせるのに対し、RotorQuantは3次元ブロック単位で処理するため、極端に偏ったデータの圧縮精度はTurboQuantに一歩譲る。128k以上の長コンテキストでの安定性は検証中（推測: 発表から日が浅い）。
当社の見解
当社は機密情報のマスキング処理を全てローカルAIで行っている。これにより機密情報を外部に送信せずにAI処理できるようになった。だが、AIが嘘をつくハルシネーションの問題は依然としてある。確認していないのに「確認しました」と言う。当社はこの前提で運用を設計している。事実と推測の強制分離、ファクトチェック機能、3つのAIと人間の同士の三重検証を行っている。どこまでいっても、AIは完璧ではない。理論上100%安全設計をしていても、AIも人間も想定しないことは起こるものだ。その万が一に備えておくことが、AIを使う上では前提になっている。だろうではなく、かもしれない運用がAIを使う上での安全基盤となっている。
同じ失敗を二度としないAIエージェント
今のAIは、聞けば何でも答えてくれます。
でも、セッションが切れた瞬間に前回の失敗を忘れます。
当社が開発しているAIは、過去の経緯を念頭に置いて、
聞かれる前に「それは前回うまくいきませんでした」と声をかけます。
人間にも同じ失敗をさせず、AI自身も繰り返しません。
古参の社員が横にいるように、黙っていても気づいてくれる。
それが、当社が考える本当のAI社員です。