令和6年度 秋期 午前Ⅱ 問2

✓ これが正解イAdversarial Examples 攻撃

解説

誤認識を狙う攻撃は Adversarial Examples 攻撃です。

設問の攻撃は、画像に人の目では気付けないほど小さなノイズや変化を加え、AI に別のものとして判定させるものです。この手口は Adversarial Examples 攻撃と呼ばれ、ノイズを加えた入力は敵対的サンプルとも呼ばれます。例えば、動物の画像にわずかな加工をすると、人には同じ画像に見えるのに、AI は別の動物と判定することがあります。見分けの軸は、攻撃が何を狙うかです。AI の判定を誤らせることが目的なら、この攻撃に当たります。同じ AI に対する攻撃でも、学習に使ったデータを盗み出す狙いのものは別の名前で呼ばれます。

ほかの選択肢はなぜ違うのか

• アAdaptively Chosen Me…：Adaptively Chosen Message 攻撃は、デジタル署名に対する攻撃の分類です。攻撃者が署名させる文を途中の結果を見ながら選び直していく形で、AI の画像認識とは関係がありません。
• ウDistributed Reflecti…：Distributed Reflection Denial of Service 攻撃は、送信元を偽った要求を多数のサーバに送り、その応答を攻撃対象に集中させるサービス妨害です。AI に誤認識させる手口ではありません。
• エModel Inversion 攻撃：Model Inversion 攻撃も AI を狙う攻撃なので紛らわしい選択肢です。こちらは学習済みモデルの出力から、学習に使われた顔画像などのデータを推測して復元する攻撃で、狙いは情報を盗むことにあります。