「どのAIを使うか」の前に、「何をさせるか」を考える
この考えを整理するきっかけは、JevというAIと、そのような判断処理をローカルLLMで再現するという話でした。TypeSafeはJevを、ソフトウェアの中で意思決定を担う「System Oneモデル」として紹介しています。ここから私が関心を持ったのは、特定のサービスの性能以上に、業務の中の小さな判断を独立した処理として切り出す考え方です。
たとえば、お問い合わせの内容を「新規相談」「既存のお客様からの依頼」「営業」に振り分ける仕事。必要なのは、分類結果です。毎回その理由を長い文章で説明させなくても、次の担当者や処理につなげられる場面があります。
AIに何でも頼めることと、すべての工程で同じAIを使うことは、別の判断です。業務に必要な出力から考えると、使い方の選択肢が広がります。
「判断する工程」と「文章を作る工程」を分ける
一連の業務を細かく見ると、分類する、確認する、優先順位をつける、文章を書く、といった異なる作業が含まれています。それぞれに求める出力と品質も違います。
お問い合わせ対応なら、次のような役割分担が考えられます。これは導入済みの実績ではなく、業務設計の例です。
- 受付・分類：決まった項目の有無はルールで確認し、内容の分類は用途を絞ったAIに任せる。
- 振り分け：分類結果に応じて担当者へ渡す。判断が曖昧なものや重要な依頼は、人が確認する。
- 返信案の作成：背景の理解や丁寧な表現が必要なため、大規模な生成AIで下書きを作る。
- 送信前の確認：約束する内容やお客様への対応方針を、担当者が確かめる。
こうして工程を分ければ、すべての入力に対して高性能なAIで文章を生成する必要はなくなります。文章生成を省ける工程では、処理時間や利用コストを減らせる可能性があります。ただし、実際の効果はモデル、入力の長さ、処理件数、連携方法によって変わります。
経営判断では、手直しまで含めた効果を見る
処理が速くなっても、誤った振り分けが増え、その修正に時間を取られるなら、業務全体は改善しません。安いAIに置き換えた結果、人の確認が増えることもあります。
導入を検討するときは、次の項目を、現在のやり方と比較するのがよいと考えています。
- 品質：実際の業務データで、どの程度正しく処理できるか。特に、見逃してはいけない依頼を取りこぼさないか。
- 時間：AIの応答だけでなく、人の確認や手直しを含めて、完了までの時間が減るか。
- 費用：利用料に加えて、機器、運用、保守、例外対応の負担を含めても効果があるか。
- 引き継ぎ：判断できない場合や処理に失敗した場合に、人へ戻せるか。
まず一つの工程で試し、現行の処理と並べて結果を見る。自社で必要な品質を満たしていることを確かめてから、任せる範囲を広げる。この順番なら、改善の根拠を持って判断できます。
ローカルAIも、用途と環境をセットで考える
手元のPCで動くローカルLLMも、選択肢の一つです。判断処理をローカルで担えれば、外部サービスへの依存を減らす選択肢になるのではないか、という発想です。
ただ、出力を短くすれば、少ないメモリでも快適に動くとは限りません。モデルを動かすためのメモリや、入力を処理するための計算は必要です。また、小型モデルに置き換えたとき、必要な判断精度が保てるかは、用途ごとに確かめる必要があります。
ローカルで動かすこと自体を目的にせず、扱う情報、処理量、応答時間、機器の管理負担から採用を考える。これも、業務に合わせた使い分けの一部です。
専門性を持つAIを、必要なときに呼び出す
文章の校正を担当するAIに、経理業務の判断まで任せる必要はあるでしょうか。担当する仕事がはっきりしていれば、その仕事に必要な能力を持つAIを選び、必要なときに呼び出す構成も考えられます。
こうした専門性の分割が、小型モデルを使いやすくする方向につながるのではないかと考えています。ただし、不要な知識を取り除けば簡単にモデルを小さくできる、あるいは必ず少ないメモリで動く、という検証結果があるわけではありません。今後、自分たちでも確かめていきたい仮説です。
業務の側で今できることは、各工程に必要な能力と出力を明確にすることです。決まったルールで処理できるもの、用途を絞ったAIに向くもの、大規模なAIや人の判断が必要なものを見極める。その準備は、選べる技術が変わっても役に立ちます。
AI活用の価値は、業務全体の設計にある
高性能なAIを導入するだけで、業務が最適になるとは限りません。どこで判断し、どこで文章を作り、どこで人が確認するか。工程のつなぎ方によって、同じAIでも成果は変わります。
私たちは、現場で積み上げてきた仕事のやり方を尊重しながら、AIを取り入れる位置を考えたいと思っています。必要な品質を守り、待ち時間や手間を減らす。そのための役割分担を設計することが、これからのAI導入支援で大切になると考えています。
Jevの位置づけはTypeSafeの公式サイトを参照しています。ローカルでの再現やモデルの小型化については、今後の検証課題として扱っています。