Stop Sequencesとは
Stop Sequencesとは、大規模言語モデル（LLM）などのテキスト生成多モーダルAIにおいて
読み: ストップシーケンス
大規模言語モデル（LLM）などのテキスト生成多モーダルAIにおいて、テキスト生成を停止させるための特別な文字列またはトークンのことです。モデルが指定されたシーケンスを生成すると、そこでテキスト生成が終了します。これにより、AIの出力範囲を制御し、不要なテキストの生成を防ぐことが可能になります。
かんたんに言うと
テキスト生成AIに「ここまで」と指示する合図のことです。
Stop Sequencesの役割
Stop Sequencesは、テキスト生成AIの出力を制御する上で重要な役割を果たします。例えば、特定の形式でテキストを生成する場合、Stop Sequencesを用いることで、形式から逸脱したテキストの生成を抑制できます。また、APIの利用料金は生成されたトークン数に基づいて課金されることが多いため、不要なテキスト生成を抑制することでコスト削減にもつながります。Stop Sequencesの設定は、AIの性能を最大限に引き出すために重要な要素の一つと言えるでしょう。
Stop Sequencesの設定方法
Stop Sequencesの設定方法は、利用するプラットフォームやAPIによって異なります。一般的には、APIリクエストのパラメータとしてStop Sequencesを指定します。複数のStop Sequencesを設定することも可能で、いずれかのシーケンスが生成されるとテキスト生成が停止します。適切なStop Sequencesを設定するためには、生成されるテキストの特性を理解し、目的に応じたシーケンスを選択することが重要です。
Stop Sequencesの活用例
Stop Sequencesは、様々な場面で活用されています。例えば、チャットボットにおいて、ユーザーからの質問に対する回答を生成する際に、回答の終わりを示すStop Sequencesを設定することで、不要なテキストの追加を防止できます。また、コード生成AIにおいては、関数の定義が終わった後にStop Sequencesを設定することで、意図しないコードの生成を防ぐことが可能です。さらに、小説の執筆支援AIにおいては、章の終わりや段落の終わりにStop Sequencesを設定することで、文章構成を制御することができます。
同じ失敗を二度としないAIエージェント
今のAIは、聞けば何でも答えてくれます。
でも、セッションが切れた瞬間に前回の失敗を忘れます。
当社が開発しているAIは、過去の経緯を念頭に置いて、
聞かれる前に「それは前回うまくいきませんでした」と声をかけます。
人間にも同じ失敗をさせず、AI自身も繰り返しません。
古参の社員が横にいるように、黙っていても気づいてくれる。
それが、当社が考える本当のAI社員です。