データ資格 模擬試験

DS検定 模擬試験 第6回 問67・データエンジニアリング(生成AIの実装と運用)

AIエージェントの権限設計

通販会社L社は、問い合わせに対応するAIエージェントを導入する。エージェントは、LLMの判断で「顧客情報の検索」「返金の処理」「顧客へのメール送信」の各ツールを呼び出せる。安全に運用するための設計として、適切なものを2つ選べ。

  1. A

    指示文に「不正な操作はしないこと」と書いておけば、権限の制限は省いてよい。

  2. B

    返金やメール送信など取り消しにくい操作は、実行前に担当者の承認を必要とする。

  3. C

    エージェントに渡す認証情報は、業務に必要なツールと操作だけに権限を絞る。

  4. D

    応答を速くするため、管理者と同じ権限の認証情報を渡して全ツールを使えるようにする。

正解と解説を見る

正解:B・C

ツールを使うAIエージェントには、最小権限の付与と、取り消しにくい操作への人の承認を組み合わせる。指示文での禁止だけに頼らない。

学習のポイント:LLMへの指示は破られる前提で設計する。守りは権限と承認の仕組みで作る。

この問題を演習で解く →

DS検定のトップへ 問題一覧へ

このサイトの問題は、各試験の公開されている出題範囲に沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。一般社団法人データサイエンティスト協会・一般財団法人統計質保証推進協会の公式サービスではありません。