“Artist tests Facebook video policy with ‘deepfake’ of Mark Zuckerberg”
Introduction：テクノロジーの進化は、ある時点を境に一気に加速し、その加速度は我々の想定を遥かに超えています。
まさに今、2019年が「ＡＩ」というテクノロジーの加速地点なのかもしれません。今回取り上げるニュースも、その一つの表れだと思われます。
それが「ディープフェイク」
ＡＩを駆使してつくる「偽動画」ですが、これが誹謗中傷に悪用され、アメリカ大統領選にも影響を与えるのではないかと懸念されています。
本物と見分けがつかない
ディープフェイクに注目が集まったのが、昨年2018年の4月と言われています。
それはオバマ大統領の偽動画で、その中で彼は「トランプは救いようのない馬鹿だ」と発言しているのです。
※ 開始後25秒あたりで “President Trump is a total and complete dipshit.”
と発言しています。
直訳すれば「総合的かつ完璧な ”大バカ者”」といったところでしょうか･･･
Video by ： BuzzFeedVideo
“You Won’t Believe What Obama Says In This Video!”
また、今年の5月にはアメリカ下院議長、ナンシー・ペロシ氏の偽動画が出回りました。
これはディープフェイクと呼べる程、技術レベルは高くはないのですが、再生速度を若干遅くすることで、あたかもペロシ氏が酔っぱらっているかのような印象を与えています。
Video by ： Washington Post
“Pelosi videos manipulated to make her appear drunk are being shared on social media”
ディープフェイクの問題については、6月13日、ワシントンの米議会下院委員会で公聴会が開かれ、大学教授や専門家らが議論を交わしました。
この公聴会では、2020年に行われるアメリカ大統領選の影響の他に、ロシアや中国によるサイバー攻撃に利用されることや、株価への影響なども懸念材料として挙げられました。
ただ、ディープフェイクが与えるリスクについては、アメリカ社会の備えがまだできていないのが現状のようです。
ちなみに、YouTubeやFacebookといったように、動画をサービスとして扱う企業の対応はどのようになっているのでしょうか？
ザッカーバーグは動画削除を拒否した
企業の対応は分かれています。
YouTubeは動画の削除に踏み切りましたが、一方でFacebookのマーク・ザッカーバーグCEOは削除を拒否しています。
前述したペロシ氏は、「彼らは偽だとわかっているものを掲載している。Facebookは社会に嘘をついている」とし、Facebookを非難しましたが、ザッカーバーグ氏はペロシ氏の動画についても削除を拒んでいます。
そんなザッカーバーグ氏に対しては一部から批判の声も上がっており、「それでは」ということで、アメリカのアーティストらがつくった動画が今月公開されました。
Video by：Multimedia LIVE
“Artists create Zuckerberg ‘deepfake’ video”
このディープフェイクは、元々イギリスで開催された芸術祭『スペクター』の作品として製作されましたが、製作者サイドとしては、ソーシャルメディアでは人々にどのように見られ、操作されるのかを示すのが狙いだといいます。
この作品で、ザッカーバーグ氏は次のように語っています。
「何十億もの人々から盗み出したデータ、すべての秘密、人生、未来を1人の男が完全に掌握している状況について、少し想像してみてほしい。それはすべてSpectreのおかげだ。データを掌握するものが未来も掌握する、ということをSpectreは私に教えてくれた」
～CNET Japan 「M・ザッカーバーグ氏が語ってるいるかのようなディープフェイク動画、Instagramに投稿される」～
つまり、「一人の男が何十億もの個人データをコントロールできる」と言っているわけです。
広告収入で揺れる動画界
ザッカーバーグ氏のディープフェイクはFacebook傘下のInstagramに投稿されたものですが、この投稿すらもザッカーバーグ氏は削除を拒否しています。
彼は「投稿される情報は ”本物” である必要ない」といったコメントを残しています。
彼が動画の削除に応じないといった背景には、Facebookのようなビジネスモデルの特性が影響しています。
話題の動画、刺激的な動画はそのような作品を好む人々によって、広告収入を得ているからです。このことはYouTubeも基本的には同様です。
それに呼応するかのように、自分の主義主張と同じであれば、動画の真偽は問わない人々も、一方で増えてきているようです。
そのような動向が、アメリカ社会の分断をさらに加速するのではと、懸念する声が上がるのも当然と言えます。
ただし、従来のフェイクニュースとは異なり、ディープフェイクはＡＩ特有のディープラーニングが技術的裏打ちとなっているため、圧倒的な精巧さを実現し、真贋を判断するのは益々困難となっています。