Solutions
AIエージェントに与える権限と、止め方の決め方
AIに操作を任せるときに最も重要なのは、何を許し、何を許さず、おかしな動きをしたときにどう止めるかです。権限の分け方と止め方の考え方をまとめたページです。
点線の下線がある用語は、押すと意味がその場に出ます。
結論を先に
AIエージェントの権限は、どう決めますか?
まず読み取りだけを許し、書き込みや削除・送信は人のを挟みます。必要な操作だけを、必要な範囲で許す考え方で、順に広げます。
操作の種類ごとの扱い
操作の影響の大きさで分けます。
| 操作 | 扱い | 理由 |
|---|---|---|
| 読み取り | 最初から許可してよい範囲を絞る | 情報が外に出ないよう範囲を限る |
| 書き込み・更新 | 人のを挟む | 誤った内容が残るのを防ぐ |
| 削除 | 原則許可しない | 元に戻せない |
| 送信(メール・外部連絡) | 人の承認を必須にする | 取り消せない |
| 支払い・契約に関わる操作 | 許可しない | 金銭や契約の責任が生じる |
止め方の備え
止め方は、動かす前に決めます。
上限を設ける
1回に処理できる件数や金額にを置き、超えたら止まるようにします。
記録を残す
AIが何を読み、何を操作したかの記録を残します。
停止の手順を決める
誰が、どの画面で止めるかを決めておきます。
止めた後の戻し方を決める
操作した内容を元に戻す手順を決めておきます。
ご注意
ご注意
AIの操作には誤りが含まれることがあります。当社は、誤動作が起きないことをお約束するものではありません。操作を許す範囲の判断は、依頼者が行います。
運用の責任
次の担当と頻度を決めておきます。
- を見直す担当者
- の判断をする担当者
- 記録を点検する頻度
- 変更を行うときのの流れ
承認が形だけにならない工夫と、外から紛れ込む指示への備えをします
人のは、件数が増えると中身を見ずに押されることがあります。承認の画面に、何をどう変えるかの要点を出し、1日に承認する件数の目安を決めておきます。
AIが読み込むメールや文書の中に、AIへの指示のような文が紛れ込み、意図しない操作につながることがあります。読み込む文書は、信頼できる範囲に限り、書き込み・削除・送信は、読んだ内容にかかわらず、人の承認を必須にします。
元に戻せる操作と、戻せない操作を分けて設計します
書き込みや更新は、変更前の内容を残せば元に戻せる場合があります。削除、送信、支払いは、元に戻せない操作として、許可しないか、人のを必須にします。どの操作がどちらに当たるかは、システムごとに一覧にして決めます。
停止の手順は、練習しておきます
止め方は、作っただけでは使えない場合があります。導入の前に、実際に止める操作を担当者が一度試し、止まったことを確認します。当社は、試す手順を運用手順書に含めます。試した日と結果も記録に残します。
よくある質問
人の承認を挟むと効率が落ちませんか?
最初は人のを多く置き、記録を見ながら減らしていく進め方ができます。
記録はどのくらい残しますか?
保存期間は、御社の方針に合わせて決めます。記録にも、読み取った個人情報が入ることがあるため、保存先と見られる人を限ります。個人情報を含む場合は、扱いを事前に相談します。
誤動作したときの責任は誰にありますか?
操作を許す範囲の判断は御社が行います。役割分担は、依頼の前に書面で確認します。
対象の業務が合うかの確認から始めます
相談したからといって、契約の義務は一切ありません。いま困っていることと、対象にしたい業務をお知らせください。
