機械学習システムへの侵入
自分がセキュキャンで学んでいた講師たちが書いているブログがあるのでこれを全部読んだ。
論文紹介と書いてあるところは飛ばしながらまずは「AIセキュリティ超入門」とかいてあるところから順番に読んだ。下が1話のリンク
第１回：イントロダクション – AIをとりまく環境とセキュリティ –
第２回：AIを騙す攻撃 – 敵対的サンプル –
第３回：AIを乗っ取る攻撃 – 学習データ汚染 –
第４回：AIのプライバシー侵害 – メンバーシップ推論 –
第５回：AIの推論ロジックを改ざんする攻撃 – ノード注入 –
第６回：AIシステムへの侵入 – 機械学習フレームワークの悪用 –
第７回：AIの身辺調査 – AIに対するOSINT –
第８回：セキュアなAIを開発するには？ – 国内外のガイドライン –
ここからは論文の紹介と将来的によんだほうがいいやつのリンク。
ここまで紹介したが最近僕はこのテーマ、真面目にやってない。やってたのはせいぜい3ヶ月くらいだったかな。離れた理由としては機械学習について扱っているうちに機械学習そのものよりも機械学習をツールとして他の領域の脆弱性探したりの方がいいと思ったから。その意識に変わったきっかけとしては「セキュリティーエンジニアのための機械学習/ AI技術によるセキュリティー対策入門」を読んだからだと思う。
まあ、やってみ？いい本。
