私たち全員がソーシャルメディアで楽しんでいるフェイススワップアプリが、他の人の人生全体、さらには国全体を台無しにするツールになると誰が思ったでしょう。?
私たちが目にするすべてが本物であるとは限りません。ディープフェイクがオンラインで公開されたデータですべての人に恐ろしい脅威をもたらしているため、これらの線はこれまで以上に有効になっています。. 過去数年間遊んできたシンプルなフェイススワップアプリから, 今では、信頼できる結果を生み出す完璧な偽造技術に発展しました.
実際には, 新しく発売された Zaoと呼ばれる中国の顔交換アプリ ディープフェイク技術が大幅に向上したことを証明しました. 出力は非常に説得力があるので、人間の目はそれが作成する写真やビデオに簡単にだまされます.
その非の打ちどころのない画像操作のブレークスルーにもかかわらず, 蔵王は世界的に人気を博すやいなや反発を受けた. これは、ユーザーを危険にさらす特定のプライバシー法に違反していることが判明した後のことです。.
でも, ディープフェイクによって提示される脅威は、単なるプライバシーの恐怖を超えています. この技術に伴うより大きな懸念は、世論に影響を与える強力な武器になる可能性が高いことです。. 政治と民主主義は、悪意のあるディープフェイクユーザーの最大の標的として指摘されています. 完璧に到達, サイバーセキュリティの専門家はまた、ディープフェイクを将来のサイバー犯罪の無敵の原因と見なしています.
ディープフェイクテクノロジーの初期の兆候
ディープフェイクテクノロジーまたはAI合成メディアは、当初、コンピュータービジョン研究の一環として学術研究で使用されていました。. この目的のために行われた最初のプロジェクトの1つは 1997 話している人のビデオ映像が、別のオーディオトラックの内容を話しているように見えるように変更されました。.
早送り 2017, Redditorは「ディープフェイク」という用語を発案し、スカーレット・ヨハンソンのようなハリウッドスターの動画を投稿しました, 妥協する性的なシーンで彼女を紹介する. どうやら, ビデオが操作されたことが判明しました, 女優の顔をポルノスターの体に貼り付ける.
ディープフェイクが急速に成熟していることを証明するために行われた別のビデオは、スピーチを行っているように見える元大統領バラックオバマの写実的な映像でした. それは「オバマの合成」リップシンクがまったく新しいレベルに達したワシントン大学が立ち上げたプロジェクト.
プロジェクトの主任研究者の一人は、 この技術は否定的な方法で使用することができます 自分たちが開発したものを使用する責任があることを人々に提案しました. 彼女はまた、編集されたビデオと実際のビデオを判別するためのテクノロジーをリバースエンジニアリングする方法についても言及しました。.
しかし、ディープフェイクをリバースエンジニアリングする方法は本当にありますか? AIマシンにアクセスできない普通の人は、どうすれば本当のこととそうでないことを知ることができますか?
ディープフェイクによって作成されたより恐ろしい脅威
ディープフェイクが偽のビデオをリアルに見せることができることはすでに知っています. スキャンダラスな偽の写真やビデオがオンラインで公開されると、人の評判を傷つける可能性があります. さらに, 証拠を変更して犯罪を別の人に固定するために使用できます.
でも, ディープフェイクによって引き起こされるより具体的な脅威は、それが本物を偽物のように見せかける方法です. この例は ガボン中央アフリカ軍事クーデター の 2018. 伝えられるところによると、国の人々は彼らの大統領に会っていません。, アリー・ボンゴ, 何ヶ月もそして驚くべき出来事で, 彼はいつもの新年のスピーチをしました.
政治的ライバルは、映像がディープフェイクの産物であり、政府が大統領の病気を隠しているとほのめかした. 一週間後, 殺害につながる軍事クーデターが開始されました. これは、ディープフェイクによってもたらされるより深刻なリスクを証明する不幸な事件の1つにすぎません。.
関連している: サイバーセキュリティ業界におけるAIベースのセキュリティソリューションの未来
サイバーセキュリティのディープフェイク
デジタルセキュリティ会社のSymantecは以前に指摘しました ディープフェイク音声詐欺の3つの事件, これはすべて以前に起こった 2019. ポストで, ユーラーヘルメスが彼らの供給者の1人のボスであると彼が思った泥棒に少なくとも1000万ドルを失った方法が引用されました.
AI, 入ってくるサイバー攻撃を特定し、サイバー脅威を最小限に抑えるための便利なツールでありながら, どうやら会社を危機に瀕させる技術でもあり得る. サイバーセキュリティ企業は、この新しいイノベーションがまもなくサイバー犯罪者のゲームを強化するために使用されると信じています.
それを防ぐために, 各企業とすべての個人は、ディープフェイク詐欺に対してより脆弱になるため、攻撃を特定して防止する方法について計画を立てる必要があります。.
ディープフェイクテクノロジーへの対応
一部の企業は、ディープフェイクテクノロジーがビジネスにもたらす可能性のあるリスクを依然として否定しています. 彼らは技術がまだ時期尚早であると信じています, 恐怖は誇大広告によって引き起こされます.
ディープフェイク詐欺の被害者がすでに確認されていることを考えると, サイバーセキュリティ企業は、複雑なディープフェイク手法の台頭への迅速な対応を実装する必要があることをこれまで以上に確信しています.
学者やサイバーセキュリティの専門家が共有するいくつかの推奨事項があります. それらのいくつかは以下を含みます:
1. ディープフェイク検出のためのAIの使用
ディープフェイクメディアは人工知能を使用して作成されます, そのため、専門家は、この方法のリバースエンジニアリングにはAIも含まれると示唆しています。.
メディアの分析と写真の不一致の検出に焦点を当てたAIを開発している企業がいくつかあります, ビデオ, およびオーディオファイル. 偽のメディアの明らかな兆候の1つには、被験者の口の周りの一貫性のないピクセルが含まれます, または影の生成や人の顔の角度の不一致.
でも, これはディープフェイクの決定的な証拠ではありません.
開発者は正確な検出方法を考え出すことができますが, 彼らはまだ、検出モデルを構築するために使用できるより大きなデータベースを待っています.
これは、ディープフェイクの脅威の管理に対するGoogleの最新の貢献につながります.
2. Googleのディープフェイクコレクション
Googleが検索エンジンの王と見なされるのには理由があります. オンラインで公開されているほぼすべてのメディアにアクセスできます, ディープフェイクファイルが含まれています.
ディープフェイク攻撃を阻止する直接的な解決策ではありませんが, Googleのディープフェイクメディアのギャラリーは、開発者がAI検出マシンの基盤を見つけるのに大いに役立ちます. ハイテク巨人が解放された 3000 ディープフェイク検出ツールの作成を加速するのに役立つ合成ビデオ.
Facebookはまた、同様のデータベースを作成するという声明を発表しました. フェイススワップアプリが最初にオンラインでリリースされたとき, 多くの人が結果の写真をソーシャルメディアに持ち込み、Facebookはそれらのディープフェイクの中で最も大量の写真を見ました. その上, Facebookは、カメラフィルターを介したディープフェイクの創始者の1人でもあります.
3. 3Dプリントメガネと透かし
ノートンライフロックは、ディープフェイクを検出するための特殊な3Dメガネの可能性を模索していることを明らかにしました. これは、電話のロックとロック解除のために顔認識機能をだまさないようにする方法について、携帯電話によって提示された技術に何とか似ています.
その間, 新興企業のProofModeとTruepicは、透かし入りのスタンプ写真を使用して信頼性を示しています. 大手チップメーカーのクアルコムは、携帯電話にこの方法を実装するためのソフトウェアをすでに開発しています。.
4. 検証コード
ディープフェイクを検出する際にコードがどのように機能するかはまだ明らかではありませんが、アクセンチュアは、AIの責任ある使用が潜在的な脅威を防ぐ方法であると考えています. 彼らは、検証手段を含めるためにディープフェイクを作成するためのコードを公開する人々を提案しています. でも, サイバー犯罪者がこれに従わないことは明らかです.
関連している: IntelとFacebookがNervanaと呼ばれるAI推論チップに取り組んでいる
結論
ディープフェイクは比較的新しいテクノロジーであり、サイバー犯罪者が獲物を勝ち取るための新しい機会を開きました。. 開発者は、混乱を招くメディアを作成できるツールをすばやく作成しましたが、その結果に備えることができませんでした。.
確認のために写真をスキャンする必要がある日が来るのでしょうか? 将来、私たちがテレビで見るものすべてを疑う時が来るでしょうか. ニュースを含む?
避けられない脅威に対抗する技術は簡単に取り組むことができます. 現在の本当の問題は、AI操作を使用する際の意識を広め、社会的責任を植え付けることです.
著者について: ジョンオカンポス
ジョンは職業別のオペラ歌手です, とフィリピンのテナーのメンバー. それ以来, デジタルマーケティングは常に彼の強みでした. 彼はMegaMediaInternetAdvertisingIncのCEOです。, とテックハッカーのマネージングディレクター. ジョンは現在のSEOマネージャーでもあります Softvire New Zealand と Softvireオーストラリア – オーストラリアの大手ソフトウェアeコマース企業. ジョンに従ってください @iamJohnOcampos