Solutions

AIエージェントに与える権限と、止め方の決め方

AIに操作を任せるときに最も重要なのは、何を許し、何を許さず、おかしな動きをしたときにどう止めるかです。権限の分け方と止め方の考え方をまとめたページです。

点線の下線がある用語は、押すと意味がその場に出ます。

結論を先に

AIエージェントの権限は、どう決めますか?

まず読み取りだけを許し、書き込みや削除・送信は人のを挟みます。必要な操作だけを、必要な範囲で許す考え方で、順に広げます。

操作の種類ごとの扱い

操作の影響の大きさで分けます。

操作扱い理由
読み取り最初から許可してよい範囲を絞る情報が外に出ないよう範囲を限る
書き込み・更新人のを挟む誤った内容が残るのを防ぐ
削除原則許可しない元に戻せない
送信(メール・外部連絡)人の承認を必須にする取り消せない
支払い・契約に関わる操作許可しない金銭や契約の責任が生じる

止め方の備え

止め方は、動かす前に決めます。

STEP 01

上限を設ける

1回に処理できる件数や金額にを置き、超えたら止まるようにします。

STEP 02

記録を残す

AIが何を読み、何を操作したかの記録を残します。

STEP 03

停止の手順を決める

誰が、どの画面で止めるかを決めておきます。

STEP 04

止めた後の戻し方を決める

操作した内容を元に戻す手順を決めておきます。

ご注意

ご注意

AIの操作には誤りが含まれることがあります。当社は、誤動作が起きないことをお約束するものではありません。操作を許す範囲の判断は、依頼者が行います。

運用の責任

次の担当と頻度を決めておきます。

  • を見直す担当者
  • の判断をする担当者
  • 記録を点検する頻度
  • 変更を行うときのの流れ

承認が形だけにならない工夫と、外から紛れ込む指示への備えをします

人のは、件数が増えると中身を見ずに押されることがあります。承認の画面に、何をどう変えるかの要点を出し、1日に承認する件数の目安を決めておきます。

AIが読み込むメールや文書の中に、AIへの指示のような文が紛れ込み、意図しない操作につながることがあります。読み込む文書は、信頼できる範囲に限り、書き込み・削除・送信は、読んだ内容にかかわらず、人の承認を必須にします。

元に戻せる操作と、戻せない操作を分けて設計します

書き込みや更新は、変更前の内容を残せば元に戻せる場合があります。削除、送信、支払いは、元に戻せない操作として、許可しないか、人のを必須にします。どの操作がどちらに当たるかは、システムごとに一覧にして決めます。

停止の手順は、練習しておきます

止め方は、作っただけでは使えない場合があります。導入の前に、実際に止める操作を担当者が一度試し、止まったことを確認します。当社は、試す手順を運用手順書に含めます。試した日と結果も記録に残します。

よくある質問

人の承認を挟むと効率が落ちませんか?

最初は人のを多く置き、記録を見ながら減らしていく進め方ができます。

記録はどのくらい残しますか?

保存期間は、御社の方針に合わせて決めます。記録にも、読み取った個人情報が入ることがあるため、保存先と見られる人を限ります。個人情報を含む場合は、扱いを事前に相談します。

誤動作したときの責任は誰にありますか?

操作を許す範囲の判断は御社が行います。役割分担は、依頼の前に書面で確認します。

対象の業務が合うかの確認から始めます

相談したからといって、契約の義務は一切ありません。いま困っていることと、対象にしたい業務をお知らせください。