AIエージェントの権限設計
通販会社L社は、問い合わせに対応するAIエージェントを導入する。エージェントは、LLMの判断で「顧客情報の検索」「返金の処理」「顧客へのメール送信」の各ツールを呼び出せる。安全に運用するための設計として、適切なものを2つ選べ。
- A
指示文に「不正な操作はしないこと」と書いておけば、権限の制限は省いてよい。
- B
返金やメール送信など取り消しにくい操作は、実行前に担当者の承認を必要とする。
- C
エージェントに渡す認証情報は、業務に必要なツールと操作だけに権限を絞る。
- D
応答を速くするため、管理者と同じ権限の認証情報を渡して全ツールを使えるようにする。
正解と解説を見る
正解:B・C
ツールを使うAIエージェントには、最小権限の付与と、取り消しにくい操作への人の承認を組み合わせる。指示文での禁止だけに頼らない。
- A
誤り。指示文は入力によって破られることがあるため、権限の制限や承認の仕組みの代わりにはならない。
- B
正しい。LLMの誤判断やプロンプトインジェクションがあっても、影響の大きい操作を人が止められる。
- C
正しい。最小権限にしておけば、誤動作や乗っ取りが起きても被害の範囲を限定できる。
- D
誤り。権限が広すぎると、誤動作や悪用のときに被害が大きくなる。
このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。