Attention Sinksとは

ATTENTION SINKS
読み: Attention Sinks

Attention Sinksとは、LLMにおいて、文脈がどれほど長くなっても処理の安定性を保つために、特定のトークンを保持しておく仕組みを指す

読み: Attention Sinks

長文生成時の出力崩れを防ぐ技術である。

同じ失敗を二度としないAIエージェント

今のAIは、聞けば何でも答えてくれます。
でも、セッションが切れた瞬間に前回の失敗を忘れます。

当社が開発しているAIは、過去の経緯を念頭に置いて、
聞かれる前に「それは前回うまくいきませんでした」と声をかけます。
人間にも同じ失敗をさせず、AI自身も繰り返しません。

古参の社員が横にいるように、黙っていても気づいてくれる。
それが、当社が考える本当のAI社員です。

相談する