Prompt Fairnessとは
Prompt Fairnessとは、大規模言語モデル（LLM）などのAIシステムにおいて
読み: プロンプトフェアネス
大規模言語モデル（LLM）などのAIシステムにおいて、プロンプト（指示文）の内容によって出力結果に偏りや不公平が生じないようにすることを指す。特定の属性やグループに対して差別的な結果を出力しないように、プロンプト設計の段階から公平性を考慮する必要がある。AIの倫理的な利用において重要な概念である。
かんたんに言うと
プロンプトフェアネスは、AIへの指示が原因で、AIの答えが不公平にならないようにすることである。
Prompt Fairnessの重要性
AIシステムは、学習データに含まれる偏りを反映してしまう可能性がある。そのため、プロンプトが意図せず偏った結果を誘導してしまうことがある。Prompt Fairnessを考慮することで、AIが公平で偏りのない結果を出力するように促し、社会的な公平性を促進できる。また、AIの信頼性を高めることにもつながる。
Prompt Fairnessを実現するためのアプローチ
Prompt Fairnessを実現するためには、まずプロンプトの設計段階で潜在的な偏りを特定する必要がある。多様な背景を持つ人々からのフィードバックを得て、プロンプトを改善することが有効である。また、AIシステムの出力結果を定期的に評価し、偏りがないか検証することも重要である。さらに、偏りを軽減するための技術的な手法も研究されている。
Prompt Fairnessの課題
Prompt Fairnessの実現は容易ではない。偏りの定義自体が文脈によって異なり、客観的な評価が難しい場合がある。また、プロンプトのわずかな変更が、出力結果に大きな影響を与える可能性がある。さらに、AIシステムの複雑さが増すにつれて、偏りの原因を特定することが困難になる。継続的な研究と実践が必要である。
同じ失敗を二度としないAIエージェント
今のAIは、聞けば何でも答えてくれます。
でも、セッションが切れた瞬間に前回の失敗を忘れます。
当社が開発しているAIは、過去の経緯を念頭に置いて、
聞かれる前に「それは前回うまくいきませんでした」と声をかけます。
人間にも同じ失敗をさせず、AI自身も繰り返しません。
古参の社員が横にいるように、黙っていても気づいてくれる。
それが、当社が考える本当のAI社員です。