機械学習の弱点を介してバイパスされた顔認識システム

セキュリティの専門家は、使用されている機械学習アルゴリズムで発見された弱点を使用して、悪意のあるユーザーが最新の顔認識技術をだますことができる方法に関する調査結果を公開しました. この手法の悪用に成功すると、システムは標的の人物を見ていると見なし、保護されたリソースに資格情報を提供します。.

新しい乱用技術にだまされた顔認識システム

コンピュータセキュリティの専門家は、現代の顔認識技術を効果的に回避できる新しい方法を発見しました. 彼らの調査結果は、と呼ばれる研究記事に掲載されています 顔認識システムでのダブルギャング これらのシステムに実装されている機械学習アルゴリズムの弱点に依存します. それらは、彼らが見る画像の信憑性を判断し、隠されたリソースのロックを解除するためにそれらが検証され、正当であるかどうかを判断するように設計されています.

発見された方法の1つは、次のように設計された特別なソフトウェアの使用に依存しています。 写実的な顔を生成する. この攻撃モデルは、そのようなイメージを作成するためのいくつかのフレームワークの使用に依存しています. 機械学習は多くのことに依存しています トレーニング — 設計されたレベルのセキュリティ実装を実現するために、データセットがシステムの入力に供給されています.

このため、提案された攻撃モデルは、マシンをトレーニングするためにこれとまったく同じ要素を使用することに依存しています。. 本物の合法的なセットを使用して安全で有効な画像を提供する代わりに, ハッカーは自分の悪意のある画像を使用できます. 主な目標は 正当な顔画像と細工された顔画像の間の距離を最小限に抑える. 顔認識システムが非常に短い距離を認識する場合、 誤分類 発生する可能性があります–これはマルウェアの細工された顔の検証につながります.

この概念のデモンストレーションは、システムをトレーニングすることによって行われました。 1500 ビデオからキャプチャされ、静止画として提示された研究者の画像セット. このようなシステムで有効なパスポート写真がどのように送られるかを正確に表すために、複数の表現が提供されています.

このデモンストレーションは、セキュリティだけを顔のテクノロジーに依存することは推奨されないことを示しています. 主な推奨事項は、そのようなテクノロジーを製品に組み込んでいるベンダーやデバイスメーカー向けです。 セキュリティ標準の作成を監督する そのようなモデルハッキング技術から保護するために.