前回の続き——1往復から、反復・自律へ
前回T-07では、質問に近い資料を検索して毎回渡すRAGを学びました。ここまでのAI機能は、入力を受けて一度だけ答える「1往復」の仕組みでした。この講義で扱うAIエージェントは、目標に向かって自分でツールを繰り返し使い、達成まで動き続けます。自律の力が増えるぶん、どこまで任せてよいかという線引きが、新しい主題になります。
このスライドのポイント
- T-07までのAI機能は、入力を受けて一度だけ答える「1往復」の仕組み
- この講義のAIエージェントは、目標に向かってツールを繰り返し使い、達成まで動き続ける
- 自律の力が増えるぶん、「どこまで任せてよいか」の線引きが新しい主題になる
AIエージェント・承認境界・MCPの定義
AIエージェントとは、目標を与えると、状態を見ながらツールを繰り返し使い、達成まで自律的に動く実行系です。その働きは四つの要素で成り立ちます。目標、いまの状態、使えるツール、そして反復です。T-03からT-07までの1問1答と違うのは、この反復と自律の部分です。承認境界とは、エージェントが人間の確認なしに実行してよい範囲の線引きで、読み取りは自由、書き込みは確認、削除や支払いは必ず人間、というように定めます。これは、A-09で学んだリスクレベルを仕組みとして制度化したものです。MCPは、エージェントとツール群をつなぐ共通の規約で、K-02で学んだ契約の考え方を、AIとツールの間で標準化したものです。
このスライドのポイント
- AIエージェント＝目標を与えると、状態を見ながらツール（T-05）を繰り返し使い、達成まで自律的に動く実行系
- エージェントの4要素: 目標・状態・ツール・反復
- 承認境界＝人間の確認なしに実行してよい範囲の線引き（読み取りは自由・書き込みは確認・削除と支払いは必ず人間）＝A-09の制度化
- MCP＝エージェントとツール群をつなぐ共通規約（K-02の契約の思想を標準化したもの）
なぜ承認境界が要るのか
この線引きを知らないと、二つの失敗のどちらかに落ちます。一つは、エージェントに全部任せてしまう失敗です。反復する仕組みでは、一つの誤りが繰り返しの中で増幅し、被害が一度きりでは終わりません。もう一つは、怖くて何も任せられず、自動化の利点を捨ててしまう損です。どちらも、任せる範囲を決める道具、つまり承認境界を持っていないために起こります。
このスライドのポイント
- 「全部任せる」の危険: 反復の中で一つの誤りが増幅し、被害が一度きりで終わらない
- 「怖くて何も任せない」の損: 自動化の利点を捨ててしまう
- どちらも、任せる範囲を決める道具（承認境界）を持っていないために起こる
エージェントのループと承認境界のゲート
エージェントの構造は、一本のループです。目標を受け取り、計画を立て、ツールを実行し、その結果を見て、次の行動を決める。これを達成まで繰り返します。ここに承認境界を重ねます。ループの途中、リスクの高い操作に差しかかる手前にゲートを置き、そこで人間の確認を求めます。読み取りだけの行動はゲートを通さず自動で進み、書き込みや削除の手前で立ち止まる、という形です。ループのどこにゲートを置くかが、エージェント設計の要になります。
このスライドのポイント
- ループ: 目標→計画→ツール実行→結果を見る→次の行動→…→完了
- リスクの高い操作の手前に、承認境界のゲートを置く
- 読み取りは自動で通過、書き込みや削除の手前で立ち止まる
具体例——経費の月次処理エージェント
経費アプリの月次処理を例にします。エージェントに「今月の未提出者へリマインドする」という目標を与えます。まず未提出者を抽出します。これは読み取りなので自動で進みます。次にリマインドの文面を作成します。これも生成だけなので自動です。しかし送信は違います。相手に届く操作なので、承認境界のゲートで止まり、人間が文面を確認してから承認します。送信後の記録は自動です。A-04で学んだ「人間が判断を持つ」という原則が、ここではループの中に仕組みとして埋め込まれています。
このスライドのポイント
- 目標: 今月の未提出者へリマインドする
- 未提出者の抽出（読み取り＝自動）→リマインド文の作成（生成＝自動）→送信（承認境界で人間が確認）→送信記録（自動）
- A-04の「人間が判断を持つ」が、ループの中に仕組みとして埋め込まれる
技術サンプル——ツール×リスク×承認要否の設計表
サンプルは、いま挙げたエージェントのツール一覧を、操作の種類、A-09のリスクレベル、承認の要否で整理した表です。読み取りは低リスクで自動、外部への送信や内部への書き込みは中リスクで確認、削除は高リスクで必ず人間、あるいはツールに含めない、と分けています。承認境界の設計とは、この表を作ることそのものです。全部自動も、全部確認も、どちらも設計の放棄です。MCPは、こうしたツール群をエージェントへ標準の形で接続する層として、この表の外側に位置します。
このスライドのポイント
- 種別: table
- 目的: エージェントの各ツールを、操作の種類・A-09のリスクレベル・承認要否で設計する
- サンプル本体:
混同しやすい——1問1答とエージェント
混同しやすいのは、これまでのAI機能とエージェントの違いです。T-03からT-07で見たのは、入力に対して一度だけ答える1往復の仕組みでした。エージェントは、目標に向かって自分で反復し、自律的に動きます。この自律のぶんだけ、どこで止めるかという境界の設計が重くなります。1往復なら人間が毎回結果を見られますが、反復では見ていない間に事が進むからです。
このスライドのポイント
- 1問1答のAI機能（T-03〜T-07）＝入力に対して一度だけ答える「1往復」
- エージェント＝目標に向かって反復し、自律的に動く
- 自律のぶんだけ、どこで止めるかの境界設計の重みが増す
バイブコーディングでの確認点——「最悪の反復」を想像する
エージェントを導入するときの確認点は、「最悪の反復」を想像することです。たとえば、誤ったリマインドを五十人に繰り返し送ってしまう、といった事態です。その被害が出る操作を洗い出し、手前に必ず承認境界を置きます。これは、Q-10で学んだ脅威モデリングを、エージェントに当てはめたものです。AIへの質問例としては、「このエージェントが最悪の場合に起こしうる被害を挙げ、その手前に置くべき承認ゲートを提案してください」と聞くとよいでしょう。
このスライドのポイント
- エージェント導入時は「最悪の反復」を想像する（誤送信を50人に繰り返す等）
- その被害が出る操作を洗い出し、手前に必ず承認境界を置く
- Q-10の脅威モデリングのエージェント版
一問一答とまとめ
最後に一問です。エージェントが人間の確認なしで動ける範囲の線引きを、何と呼ぶでしょうか。……答えは、承認境界です。A-09のリスクレベルを、仕組みとして制度化したものでした。三十秒でまとめます。AIエージェントは、目標・状態・ツール・反復の四要素で自律的に動く実行系です。その手綱が承認境界であり、ツールごとにリスクと承認要否を表で決めることが設計の本体でした。MCPは、エージェントとツールをつなぐ共通規約です。次回T-09では、こうしたAI機能の品質と安全を確かめる方法へ進みます。関連資料は「AIエージェント入門」「MCP入門ガイド」「AIエージェント開発ツール比較」です。
このスライドのポイント
- 一問一答: エージェントが人間の確認なしで動ける範囲の線引きは？ → 承認境界
- 30秒まとめ: 4要素（目標・状態・ツール・反復）／承認境界＝A-09の制度化／MCP＝ツール接続の共通規約
- 次回: T-09 AI機能の品質と安全を確かめる方法へ
- 関連資料: 「AIエージェント入門」「MCP入門ガイド」「AIエージェント開発ツール比較」
