―特許の観点からAIエージェントの実行、承認、復旧を設計する。生成AIは既に多くの企業で会議録を整理し、顧客問い合わせの草案を作成し、長い文書を要約するのに使われている。この段階のAIは大体答えを返すツールだ。人が答えを読んで次の行動を決めるため、間違った答えも大体人のレビュー段階で濾過される。
最近は応答型チャットボットを超えてAIエージェントに関心が集まっている。AIエージェントは必要な情報を探し、複数のシステムを行き来しながら定められた条件に合えば実際に業務を進行する。顧客に送るメールを草案として作成するだけでなく発送まで実行し、在庫と契約情報を照会した後、次の業務を登録するというやり方だ。この時点から企業が悩むべき問題は答えの品質だけではない。AIが何をできるのか、誰がその行動を統制するのか、間違った行動をどう元に戻すのかを決めなければならない。
こうした変化は目立たない業務でまず現れる可能性が高い。問い合わせを分類し、定められた資料を探して担当者に伝達し、欠落した情報を再度要請する仕事はそれぞれ単純に見える。しかし実際には顧客別の約束、文書の最新性、担当者の権限、締め切り時点が絡み合っている。エージェントの価値は大規模言語モデル自体よりも、各企業の業務フローをどれだけ正確に読み取り実行するかによって変わり得る。
同じモデルを使っても、どの資料を先に照会するか、どの段階で人に引き継ぐか、失敗した作業を再試行できるかによって結果が変わる。結局企業が蓄積することになる資産はAIモデルだけでなく、業務ルールを実行可能な形に変えた手順、権限構造、状態管理とデータだ。特許の観点からもまさにこの実行構造をまず見る必要がある。
世界知的所有権機関（WIPO）によると、生成AI特許ファミリーの公開件数は2023年約1万4,000件から2025年3万7,808件に増え、2024年と2025年の2年間に公開された新規ファミリーは5万6,000件を超えた。WIPOは推論モデルとエージェント型システムも新興特許領域と見ている。ただしAIという名前だけで権利が生まれるわけではない。実際の製品で人が行っていた判断と実行がどこで分かれ、その過程の技術的問題をどんな構造で解決するのかが重要だ。
応答型AIから行動するAIへ
応答型AIとエージェントの違いは思ったより単純だ。前者は質問を受けて文章や資料を出す。後者はその結果を基に他のツールを呼び出し次の段階を決め、時には外部システムの状態を変える。照会機能だけを提供していたAIが日程登録、顧客通知、データ入力まで担うようになれば、サービスの性格も変わる。
もちろん全ての自動化がエージェントというわけではない。定められた様式に数字を移す反復作業も自動化できる。エージェントであれば現在の状態を読んで次の行動を選び、行動の結果によって再び判断する流れがなければならない。顧客要請を読んで必要な資料を探した後、資料が十分であれば返信を準備し、不足していれば追加資料を要請するというやり方だ。
既存の業務自動化はあらかじめ定めた順序をそのまま実行する場合が多かった。反面エージェントは入力と状況によって経路が変わり得る。同じ顧客問い合わせでも契約状態、添付された資料、担当者の権限によって照会するシステムと次の行動が変わる。こうした分岐と再判断が多くなるほど、単純な画面やプロンプトよりも状態判断とツール連結方式が製品の核心へと移る。
この過程ではどこか一段階が間違っても最終結果が変わる。最新の契約書ではなく以前のバージョンを読んだり、同名異人の顧客を選択したり、外部システムの失敗応答を成功と判断すればその後の作業も狂う。したがって正確性も最終答え一つではなく、資料選択、ツール呼び出し、実行前条件確認、実行結果確認を分けて評価すべきだ。
責任の性格も変わる。チャットボットが間違った答えを作れば人がその答えを捨てればよいが、エージェントが間違った住所に資料を送ったり、既に処理した要請を再び登録すれば実際の業務状態が変わる。そのため実行を制限し確認し復旧する機能は付加的な安全機能ではなくエージェント製品の本体に近くなる。
この地点から特許審査の対象も変わる。単純な文章生成よりもどんな条件でどんなツールを選択するのか、実行前に何を確認するのか、失敗すればどの状態に戻るのかがより具体的な技術構成として現れ得る。AI導入時「何を自動化するか」だけでなく「どんな条件で実行するか」を問う理由だ。
実行記録は運営資産であり発明記録だ
実行には痕跡が残らなければならない。人が業務を処理する時も誰がどんな資料を見て承認したのか、いつ顧客に知らせたのか、なぜ例外処理をしたのかが後で重要になる。AIが業務に入れば単純に「AIが処理した」という記録では不足だ。どんな要請を受けたのか、どんな文書を根拠としたのか、どんなツールを呼び出したのか、その結果が何だったのかを続けて見られなければならない。
米国国立標準技術研究所（NIST）は生成AIがもっともらしいが間違った内容を作り得るとし、配布後にはモデルとデータ、外部システムの変化まで持続的に見なければならないと指摘する。AIが答えを超えて実行まで担うなら、間違った判断が実際の業務に反映される前にどこで止められるのかも確認する必要がある。
配布後のモニタリングが重要な理由はシステムが固定されていないためだ。モデルが変わらなくても参照文書が更新され、外部APIの形式や応答時間が変わり得る。人がよく修正する段階、失敗が繰り返されるツール、特定資料バージョンで生じるエラーを記録しておけば、問題がモデルにあるのか業務連結構造にあるのかを区別しやすくなる。
作業記録は事後に責任を問うための装置にとどまらない。特定要請で人の承認が繰り返し必要であれば、まだ自動実行に適していないという信号になる。反対に同じ条件で安定的に同じ結果が出る業務であれば自動化の範囲を広げる根拠になる。入力値、参照文書のバージョン、実行前条件、ツールの応答、承認者の判断、最終状態を連結しておけばシステムを改善できる。
特許業務でもこうした記録は意味がある。開発過程でどんなエラーを減らそうとしたのか、どんな条件を追加した後に重複実行や誤ったツール呼び出しが減少したのかが残っていれば、発明の課題と効果を説明しやすくなる。運営ログ自体を全て公開する必要はないが、技術的改善が作られた過程を記録しておくことは権利化の出発点になり得る。
AIエージェントにどこまで権限を付与するか
企業がAIエージェントを導入する際に最初に決めるべきは機能リストよりも権限の範囲だ。文書を読む権限、草案を作る権限、外部システムに入力する権限、顧客に発送する権限はそれぞれ異なる。一度に広い権限を付与すればデモは華やかに見えるかもしれないが、実際の業務では小さな例外一つがより大きなエラーにつながり得る。
権限はユーザーアカウントのアクセス権限だけを意味しない。AIがどんな条件でどんな行動を選択できるかも権限の一部だ。例えばCRM全体を検索させる代わりに現在処理中の顧客のみを照会するよう制限したり、特定等級の文書が含まれれば自動実行を止めるよう作ることができる。同じ機能でも入力条件と実行範囲をどれだけ細かく分けるかによってリスクと技術構成が変わる。
外部から読み込んだ内容にも注意が必要だ。メールや添付文書に混ざった指示文をエージェントが処理すべきデータではなく実行すべき命令として受け取れば、実際の発送や情報流出につながり得る。モデルの判断力を高めるだけではこの問題をなくすのは難しい。外部内容はデータとして扱い、発送や決済のように元に戻しにくいツールの呼び出し条件を別途制限する構造が必要だ。
権限を分ける際には人の役割も一緒に定めなければならない。全ての作業を人が最後に見るという原則だけでは不足だ。どんな条件で誰にレビューを要請し、承認者が何を確認し、承認がなければシステムがどの状態で止まるのかを定めなければならない。AI経営システム標準であるISO/IEC 42001が役割と責任、リスク管理、透明性、性能モニタリングを共に扱うのも、技術と運営統制を切り離して見ることが難しいためだ。
こうした権限分離は単純なセキュリティポリシーにとどまらないことがある。役割別の権限を確認してツールの候補群を変えたり、文書等級と業務状態によって呼び出し順序を変更したり、特定条件で自動的に人に引き継ぐ方法が具体的な処理構造と効果を持てば特許審査の対象になる。重要なのは「権限を制限する」という原則ではなく、その制限をシステムがどう判断し実行するかだ。
承認と記録は実行構造の一部だ
人の承認を入れたからといって自動化が止まるわけではない。承認段階をうまく設計すれば担当者は業務全体を再び処理せず、判断が必要な部分だけを確認できる。内部日程登録と顧客に契約書を発送する行為に同じ承認手続きを適用する必要もない。元に戻しやすく影響が小さい業務は事後確認で十分な場合があるが、外部への影響が大きかったり復旧が難しい業務には実行前承認が必要な場合がある。
承認画面も単純な「はい」または「いいえ」ボタンで終わってはならない。承認者はどんな情報が根拠なのか、AIがどんなルールを適用したのか、承認後に何が変わるのかを確認できなければならない。反対に全ての資料をそのまま見せれば審査の負担が大きくなる。業務リスク度によって核心根拠と例外事由を先に見せ、必要な時に詳細記録に降りていけるようにする方式が現実的だ。
承認と記録の設計が重要な理由として、規制もこうした方向を支えている。EU AI Actは高リスクAIに記録と人の監督を求めており、韓国内の人工知能基本法も高影響人工知能に対しリスク管理、説明、人の管理と監督、関連文書の作成と保管を規定する。全てのAIエージェントに同じ義務が適用されるわけではないが、実行を追跡し人が介入できる構造が実際の製品で重要になっているという事実を示している。
