Alignment Taxとは

ALIGNMENT TAX
読み: Alignment Tax

Alignment Taxとは、AIモデルを人間の意図や倫理基準に沿うよう調整する際、本来の性能が低下してしまう現象を指す

読み: Alignment Tax

安全性を優先する代償として、AIの論理的推論能力や創造性が抑制されることを意味する。

同じ失敗を二度としないAIエージェント

今のAIは、聞けば何でも答えてくれます。
でも、セッションが切れた瞬間に前回の失敗を忘れます。

当社が開発しているAIは、過去の経緯を念頭に置いて、
聞かれる前に「それは前回うまくいきませんでした」と声をかけます。
人間にも同じ失敗をさせず、AI自身も繰り返しません。

古参の社員が横にいるように、黙っていても気づいてくれる。
それが、当社が考える本当のAI社員です。

相談する