データサイエンティストはどのようにサイバー空間でディープフェイクと戦うのか

技術者たちは、人工知能やブロックチェーンのような高度な技術を、ディープフェイクの検知と保護に利用しています。

By Jennifer Goforth Gregory

By Jennifer Goforth Gregory 2024年05月30日

トム・クルーズはアメリカで最も親しまれている顔の一人であるかもしれません。トレードマークの先細りの髪型から、鋭いエメラルドの瞳、そして紛れもなくお茶目な微笑みまで、彼は誰もが認める主役の顔をしています。そのため、 2021 年初頭にクルーズのおふざけ動画が TikTok に出回り始め、彼がカメのマネをしたり、日本語を話したり、バスローブ姿で踊ったりしているのを見て、視聴者は彼だと信じ込んでいました。まさに百聞は一見にしかずという訳です。

「年齢の割にとてもいい感じだ」とある人はコメントしました。「これは 100% 本物のトム・クルーズだ」と主張する人もいました。

しかし、それは本物のトム・クルーズでなかったのです。その代わり、視覚効果アーティストの Chris Umé 氏が、クルーズそっくりの Miles Fisher 氏の協力を得て制作したデジタル・ドッペルゲンガーだったのです。

「人を魅了するのが好きなんです」と Umé 氏は CNN のインタビューに答えています。

Umé 氏の作品はディープフェイクの一例で、人工知能が生成した本物の人間になりすました音声や映像を使ったものです。

関連記事

AI のサイバーセキュリティの可能性に関する神話と現実

そして、有名人の被写体はクルーズだけではありません。 2019 年、 AI スタートアップの Dessa は、ポッドキャスターの Joe Rogan 氏の声を完璧に模倣した偽の録音を作成しました。 2022 年には、 DesiFakes として知られるユーチューバーが、映画『パルプ・フィクション』の象徴的なシーンをアップロードしました。このシーンは、オリジナルの俳優である Alexis Arquette 氏ではなく、コメディアンの Jerry Seinfeld 氏が出演しているように見えます。実際、あらゆる有名人がディープフェイクの対象とされています。

有名人のディープフェイクは、楽しく愉快なものになりがちですが、そのような信じ込ませるコンテンツを作成する能力は、笑い事ではない重大な疑問や懸念を引き起こします。ディープフェイクは本物とほとんど見分けがつかないため、批評家たちは、間違った人物の言動が描かれた場合、例えばビジネスパーソンが株主に嘘のニュースを伝えたり、政治家が嘘の宣戦布告をしたりした場合、どのような影響が出るかを考えています。そう考えると、このようなデマはやがて危険なもの、あるいは致命的なものにさえなりかねないと言わざるを得ません。

誤報や偽情報を広める可能性は現実のものとなっています。実際、最近、詐欺で告発された元クリプト幹部である FTX 創設者 Sam Bankman-Fried 氏のディープフェイク動画がツイッターで共有され、金銭を盗む目的でユーザーに「賠償金」を支払うことが提案されました。

ウクライナでは、Volodymyr Zelensky 大統領が戦争初期にウクライナ兵にロシアへの降伏を求めるディープフェイクが、ハッキングされたテレビ局で放送されました。

ディープフェイクが選挙を操作し、政府や経済に影響を与えかねない方法で人を欺く潜在的なツールとなる可能性があるため、世界中の悪質業者が関心を寄せています。そのため IT 業界は、社会と最も脆弱な市民のために、ディープフェイクの検出と対策に全力を注いでいます。データサイエンティストやセキュリティの専門家にとって、ディープフェイクを発見し、本物のコンテンツと区別できるクラウドベースの検出ツールを開発することは非常に重要な課題になっています。

関連記事

セキュリティに渦巻く IT キャリアの可能性

楽しい趣味か、将来の脅威か?ディープフェイクの影響を検証する

人々はあらゆる情報をインターネットや ソーシャルメディアで入手します。しかし、日々のニュースを消化するためであれ、宿題を調べるためであれ、病気の自己診断のためであれ、ネットにアクセスする際のアドバイスがひとつだけあります : それは「信頼できる情報源を探す」ということです。

ディープフェイクが蔓延する世界では、そのアドバイスに従うのは必ずしも容易ではありません。

それでも、消費者もデータ科学者も同様に、その意味を理解しようとしているのです。ウェブサイト Exploding Topics によると、「ディープフェイク」のインターネット検索は過去 5 年間で 533% 増加しています。一方、ディープフェイクの音声と動画は、 2023 年以降に注目すべきデータ・サイエンスのトップ・トレンドのリストの上位を占めるようになってきています。

関連記事

AI が生成するテキストの可能性とリスク

Federico Ast 博士は、ディープフェイクを監視している一人です。現在のところ、ディープフェイクはインターネットコンテンツのごく一部に過ぎないと同氏は話します。しかし、コストが下がるにつれて、ネット上のディープフェイク・コンテンツの量は増え、一般大衆を騙したり、 AI を駆使した詐欺を技術的に行うことが容易になり、単純な詐欺から大規模な社会的騒乱まで、無数の「ブラック・ミラー」シナリオが幕を開けることになると同氏は予測しています。

「あなたの母親や友人、パートナーが、あなたにそっくりな人物から、困っていてお金が必要だとビデオ通話を受けたと想像してみてください」と、ディープフェイク対策に役立つブロックチェーン・ベースの検証プロトコルとレジストリである Proof of Humanity を開発したKleros.io 社の最高経営責任者(CEO)である Ast 氏は述べています。

「銀行が『あなた』から電信送金を依頼する電話を受けたり、大銀行の偽 CEO が、組織が流動性危機に直面していると語る動画が流れ、これが銀行への駆け込みを誘発するのです」

潜在的なシナリオは無限にあり、それらは問題であると考えられています。

AI には AI で対抗する - 高度な AI 技術でディープフェイクに対抗する

テクノロジーは、ディープフェイクの原因であると同時に、その解決策にもなる可能性があります。実際、企業はすでに AI ベースのツールを作成しており、ディープラーニングを使用してディープフェイクを発見することで、ディープフェイクを減らすのに役立っています。

関連記事

ディープラーニングで宇宙から象を見つける

インテルのようなテック企業がその先頭にたっています。 2022 年 11 月、同社はクラウドベースのツール「 FakeCatcher 」をリリースしました。このツールは、フェイクビデオを 96% の確率で正確に検出できるとしています。 FakeCatcher は AI を使って、最大 72 種類の検出ストリームを使い、動画中の人間の血流を分析するのです。

「ほとんどのディープラーニングベースの検出器は、未加工のデータを見て、真正でない兆候を見つけ、動画の何が問題なのかを特定しようとします。対照的に、 FakeCatcher は、私たちを人間たらしめているもの、つまり動画のピクセル内の微妙な『血流』を評価することで、実際の動画から本物の手がかりを探します」と Intel はプレスリリースで述べています。

「心臓が血液を送り出すと、静脈の色が変わります。これらの血流信号は顔全体から収集され、アルゴリズムはこれらの信号を時空間マップに変換します。そして、ディープラーニングを使って、動画が本物か偽物かを瞬時に検出することができるのです」

関連記事

企業は AI の恩恵に大きな期待を寄せている

バッファロー大学メディア・フォレンジック・ラボも同様のアプローチを採用しています。ただし、血流を探す代わりに、目のような生体特徴を分析するのだといいます。多くのディープフェイクはリアルな目の動きを使っていないため、そのアルゴリズムは目の位置や形、まばたきのようなジェスチャーを精査することでディープフェイクを検出できると、メディア・フォレンジック・ラボのディレクターである Siwei Lyu 氏は話しています。リアルなディープフェイクを作成するのに必要なのは、 500 枚の画像か 10 秒間の動画だと同氏は USA Today 誌に語っています。

メディア・フォレンジック研究所は、検知ツールの作成に加え、そもそもディープフェイクを作ることを難しくしています。ディープフェイク制作者は、コンテンツを制作するために、動画コンテンツを分析し、そこから画像を抽出するアルゴリズムを使用しています。そこで Lyu 氏は、ソーシャルメディアにアップロードされる動画にノイズを加えることで、ディープフェイクのアルゴリズムを妨害し、ディープフェイクの作成プロセスを遅らせる方法を考案しました。

Proof of Humanity では異なるアプローチをとっています。偽の動画を探す代わりに、ブロックチェーン・ベースの登録を使って偽の人物を探し、その目的は 「社会的検証 」になるのだといいます。

関連記事

AI が人間のボディランゲージを読み取るロボットを助け、優秀な同僚を育成する

「 Proof of Humanity は......ビデオ投稿と社会的検証に基づいて、人間の分散型リストを管理しています」とそのウェブサイトで説明しています。

「このリストに申請する際、ユーザーは名前、簡単な説明、写真、短いビデオを提供する必要があります。そして、すでに身元が確認されている人物によって保証されなければなりません」

ソーシャルメディア・プラットフォームは、 Proof of Humanity をユニバーサル・ログインとして使用することで、ディープフェイクを減らすことができるでしょう。

進化するディープフェイク検出技術

Ast 氏は、単一のツールやアプローチでディープフェイクを完全に排除できるとは考えていないが、ディープフェイク検出がディープフェイクを減らすためのインフラの重要な一部になることを期待しています。適切な人材と適切なテクノロジーが協力することで、ディープフェイクがエンターテインメントの域を超えてエスカレートするのを防ぐことができる、と彼は述べています。

「テクノロジーだけでディープフェイクをなくすことはできないと思います。人間による検知の余地もあるでしょう」と Ast 氏は続けます。「ディープフェイクを減らすのは、テクノロジーの助けを借りて働く専門家たちによって達成されるでしょう」

そしてそれは、祖母が詐欺師によって貯蓄を使い果たされるのを防いだり、悪質な業者が混乱や騒乱を引き起こす可能性を最小限に抑えたりするなど、目覚ましい変化をもたらす可能性があると言えます。

編集部注:この記事は 2023 年 2 月 23 日に掲載されたオリジナル記事のアップデートです。

Jennifer Goforth Gregory 氏は寄稿ライターです。彼女の情報は X @byJenGregory でご確認ください。

© 2024 Nutanix, Inc. 無断複写・転載を禁じます。その他の法的情報については、こちらをご覧ください

関連する記事