Prefix Reuseとは

PREFIX REUSE
読み: Prefix Reuse

Prefix Reuseとは、LLMの推論において、過去に計算した入力データの先頭部分を再利用することで、計算コストと応答時間を削減する技術である

読み: Prefix Reuse

一度処理した情報を保持し、次回以降の計算で活用する仕組みを指す。

同じ失敗を二度としないAIエージェント

今のAIは、聞けば何でも答えてくれます。
でも、セッションが切れた瞬間に前回の失敗を忘れます。

当社が開発しているAIは、過去の経緯を念頭に置いて、
聞かれる前に「それは前回うまくいきませんでした」と声をかけます。
人間にも同じ失敗をさせず、AI自身も繰り返しません。

古参の社員が横にいるように、黙っていても気づいてくれる。
それが、当社が考える本当のAI社員です。

相談する