モデル窃取 - モデル窃取

モデル窃取には大きく分けて以下の手法がある。

手法	概要	必要条件
モデル抽出攻撃（等価モデル）	API に大量クエリを送信し、入出力ペアから同等精度の代替モデルを構築する	API アクセス。クエリ数に比例して精度が向上する
モデル抽出攻撃（蒸留ベース）	ターゲットモデルの出力を教師データとして知識蒸留を実行する	API アクセス。確率分布や信頼度スコアが返却されるほど効果的
モデル抽出攻撃（能動学習）	最も情報量の多いクエリを選択的に生成し、少ないクエリ数で効率的に抽出する	API アクセス。攻撃者のモデル設計能力が必要
サイドチャネル攻撃	推論時間、消費電力、キャッシュアクセスパターン等からモデル構造を推測する	物理的・ネットワーク的な近接。エッジデバイスが特に脆弱
モデルファイルの直接窃取	設定ミスで公開されたストレージやモデルレジストリから重みファイルをダウンロードする	ストレージ・レジストリへのアクセス経路。アクセス制御の不備

モデル窃取は企業に対して多層的な被害をもたらす。

影響カテゴリ	概要	具体例
知的財産の喪失	大規模な学習コストをかけたモデルが複製され、競合がほぼゼロコストで同等サービスを提供可能になる	データ収集・前処理・GPU リソース・研究開発投資の損失。ML を差別化要因とする企業に致命的
敵対的攻撃の足がかり	窃取モデルを用いて敵対的サンプルを生成し、ターゲットモデルに転移攻撃を実行する	ローカル環境で攻撃手法を最適化し、本番システムのセキュリティを低下させる
規制・法的リスク	窃取モデルが学習データの個人情報特徴を保持する場合、プライバシー規制への抵触リスクが発生する	GDPR 等への違反、不正コピーに関する訴訟対応コスト

以下はモデル窃取に関する代表的な事例と研究である。

事例	概要
Tramer et al.（2016）	Logreg、Decision Tree、SVM、NN 等の ML モデルに対し、API 経由での抽出が実用的精度で可能であることを実証。BigML や Amazon ML 等の商用 MLaaS にも攻撃が成功した先駆的研究
Cloudflare によるモデル窃取検知	API ゲートウェイで異常クエリパターン（短時間大量リクエスト、系統的入力空間探索等）を検知し、モデル抽出攻撃の兆候を特定するサービスを提供
OWASP ML Top 10	OWASP Machine Learning Security Top 10 でモデル窃取を主要リスクの一つとして位置づけ、組織的対策の必要性を強調