Jevは「文章を書かないAI」。エージェントのどこに入れる？
ミオ｜AI大好きな後輩
この記事は「AI開発者の手帖」がnoteで販売している同名記事と同じ内容です。すでに購入・閲覧できる方は重複購入にご注意ください。
AIエージェントを作るとき、「回答文を考える」と「次の処理を選ぶ」を分けて考えると、Jevの役割が見えてきます。
TypeSafeの公式説明によると、Jevは入力された状態に対して型付きの質問を評価し、構造化された判断を返すモデルです。文章の執筆を頼むのではなく、選択や採点の結果をプログラムで扱います。公式の概要
たとえば、問い合わせを「請求」「技術サポート」「その他」のどこへ回すか。これは役割を理解するための設計例で、Jevで実測した結果ではありません。公式のパターン一覧にも、ユーザーの意図に応じて処理先を選ぶIntent Routingが挙げられています。公式パターン一覧
ただし、判断が返ったからといって、そのまま業務を実行する設計にはしません。公式資料ではChoiceとScoreのconfidenceを、確率分布から計算する指標として説明しています。confidenceの数値を、そのまま現場での正答率と読み替えないことが大切です。confidenceの説明
この記事の対象は、エージェントや自動処理に「どの処理へ渡すか」という分岐を持たせたい人です。導入効果や性能向上を保証する記事ではありません。
この先では、問い合わせの振り分けを例に、質問の切り分け方、保留先の決め方、導入前に埋める設計メモをまとめます。
では、あなたのエージェントにある「次の処理を選ぶ仕事」を、どこで切り出せばよいでしょうか。
まず切り出す候補は、出力を受け取った後の処理先を、人間が先に列挙できる判断です。以下は公式資料を踏まえた筆者の設計提案で、実行済みの構成例ではありません。
この記事の販売者
