Skip to main content Skip to first level navigation

RICOH imagine. change.

日本 - リコーグループ企業・IRサイト Change
Skip to main content First level navigation Menu
Breadcrumbs

Share

Main content

見破れない「ディープフェイク」が侵入

=求められるファクトチェックの仕組み=

2021年07月21日

最先端技術

リコージャパン㈱人財本部HR・EDTechサポートグループ
元リコー経済社会研究所 研究員 米村 大介

 人工知能(AI)を使い、「本物と見分けがつかないフェイク」を簡単に生み出せる時代に突入した。こうした「偽物」は、AIの中でもディープラーニング(深層学習)という技術を用いて作られるため、「ディープフェイク」と呼ばれる。まずは、この技術について書かれた次の文章を読んでほしい。

 
 「デジタル成りすまし」技術が急速に向上している。「ディープフェイク」とも呼ばれるこの最先端技術を使うと、バーチャル世界では顔付きから声、話し方まで本人そっくりに成りすませる。ソフトの使い方が簡単になり、だれもが成りすまし画像・動画を作れてしまう。

 この技術は、政治的反体制派などの人々をスパイし、嫌がらせをするために最もよく使われます。また、ソーシャルメディアに偽のアカウントを作成したり、偽の電話をかけたり、さらにはFBIやCIA、シークレットサービスなどの法執行機関の職員になりすますこともできます。

 デジタル技術を利用した「なりすまし」は、今に始まったことではありません。1980年代には、KGBがスパムメールを送信したり、友人になりすましたりするのに使われていました。1990年代には、日本のヤクザが偽の電子メールアドレスや電話番号を作るために使用していました。

 2000年代には、組織犯罪ネットワークがソーシャルメディアの偽アカウントを作成するために使用されました。2017年には、サイバー犯罪者がボットネットを構築し、ウェブサイトを停止させたり、悪意のあるソフトウェアを拡散させたりするのに利用されています。

 実は、上記の文章はAIによって作られた「フェイク」なのだ。利用したのは「ぷれあい(PlayAI)」というサイト(https://playai.nu/)。この文章を作成するのに筆者が入力した文章は、冒頭の1パラグラフだけ(赤字)。残り(青字)はAIが勝手にネット情報などを集め、続きを書いてくれた。大学生が一夜漬けで作成したリポートより、よく書けているのではないだろうか。

 AIが作れるのは文章だけではない。「偽物の動画」まで簡単に作ってしまうのだ。2018年4月、米国のコメディアン、ジョーダン・ピール氏がバラク・オバマ元米大統領になりすました動画をYouTubeで公開。全米のニュースで何度もとり上げられた。

 AIはカメラで読み取ったピール氏の表情や言葉を元に、あたかもオバマ氏が演説中のような映像を合成したのだ。デジタル技術が作り出す「偽物」が、簡単には見抜けないレベルに達したことを人々に印象付けた「事件」だった。

写真オバマ元米大統領になりすましたジョーダン・ピール氏(右)
(出所)YouTube

 もちろん、これまでもフェイク技術が全くなかったわけではない。フィルムカメラの時代から合成写真を作る技術はあったし、最近は一般の人もスマートフォンの編集アプリを使ってデジタル写真を加工できる。しかし、人間が書いたような文章を生み出したり、動画の中の顔や表情を合成したりするのは簡単ではなかった。

「いたちごっこ」に着目したGAN

 ここ数年でどんなブレイクスルーが起きたのか。カギとなる技術を2つ紹介しておこう。1つ目は「敵対的生成ネットワーク(Generative Adversarial Network=GAN)」と呼ばれる技術。2014年にグーグルの研究者イアン・グッドフェロー氏が提案した。

 フェイクを見分ける技術が進化すると、必ずその裏をかく新技術が登場する。この「いたちごっこ」に着目し、「だます側」と「見破る側」のシステムを競わせることで技術を高度化する手法を開発したのだ。

 例えば従来の技術では、動画の中の人物の「目を見る」と真偽を判定しやすいとされてきた。GANはこうした情報を逆手に取り、より本物らしい目の動きが合成できるよう「学習」して進化していくわけだ。

 2つ目の画期的な技術は、主に言語に用いられる「Transformer」だ。文章の自動生成や、外国語の自動翻訳などに応用されている。こちらもグーグルの研究者、アシシュ・ヴァスワニ氏のグループが2017年12月に提案した。

 この技術の特徴は、情報処理の仕方にある。例えば、従来はコンピューターが文章を処理する際、文頭から文末へと順に読んでいくのが一般的だった。一方、Transformerはこうした多数の文章データを同時に並列処理する。このため、AIに文章などを「学習」させる効率が飛躍的に高まったのだ。「人間のような自然な言葉を操れるAI」の登場も間近に迫っているという。

ディープフェイク「事件」、追いつかない規制

 こうした技術革新は、わたしたちの生活の質向上に役立つ半面、深刻な社会問題も引き起こす。

 例えば、英BBCは2021年3月、「米国でチアリーダーの母親が、娘のライバルが裸で喫煙・飲酒をしているフェイク動画をコーチに送りつけ、逮捕・起訴された」と報じている。この母親は特にIT技術に詳しいわけでもない普通の女性。だれでもフェイク動画を作れるようになった時代が、強く意識された事件だった。

 音声のディープフェイクでも、世間を騒がせる事件が起こった。YouTube上で米国のラッパー、Jay-Z氏が、ラップのリズムで朗読する「ハムレット」。だが、その音声はディープフェイクで作られたもの。Jay-Z氏は裁判所に対し、「自分に似た」音声が使われる一連の動画の削除を申し立てた。

 しかし、「ボーカルスタイルに著作権はない」との理由から、その申し立ては棄却された。現状、歌手にとって本意ではないフェイク音声が流布しても、何も手を打つことはできない。

 文章のディープフェイクでも驚きの事件が起こった。文章作成AI「GPT-3」が作成した文章がブログサイト「Hacker News」で、多数の「人間」が書いた文章を押しのけてランキング1位を獲得したのだ。

 
 「Feeling unproductive? Maybe you should stop overthinking」

 A little tangential, but I've found that I'm the most productive when tired. When I have energy, nothing I do seems good enough and I end up wasting a lot of time trying to make something better, whether it be a piece of code, a blog post, some ML analysis, etc.When I'm tired, I don't have the mental capacity to go above and beyond, so I just concentrate on producing something, anything. Turns out it's much easier to modify something that is sort of crappy but exists than create something great out of thin air.

 (翻訳)「生産性が低いと感じていますか?考えすぎない方がいいかもしれません」

 少し余談になりますが、私は疲れているときに最も生産性が上がることに気づきました。エネルギーがあるときは、何をやっても十分には思えず、コードやブログ記事、ML分析など、何かをより良くしようとするために多くの時間を無駄にしてしまいます。疲れているときは、精神的な余裕がないので、とにかく何かを生み出すことに集中します。何もないところから素晴らしいものを生み出すよりも、存在しているものを修正するほうがはるかに簡単だということがわかりました。

ブログサイトでランキング1位になったAI作成記事(導入部を抜粋)
(注)翻訳は翻訳ソフトDeepLによるもので人間は介在していない。
(出所)Hacker News

 このAIは特定人物の文体を真似たわけではないため、ディープフェイクとまで言えないかもしれない。しかし研究者によると、既にこのAIを使い、狙った通りの文体を作ったり、偏見や特定の宗教的価値観など志向性を持った文章を書かせたりは容易だという。

 人間が文体・指向性を反映させるとはいえ、AIは毎回異なる文章を作成する。つまり、その文章が全くの事実誤認だったとしても責任をとる「人」はいないのだ。

 今後、パソコンやスマホを使い、だれでも簡単にディープフェイクを作成できるようになり、こうした事件は確実に増えていくだろう。さらには、偽造した映像・音声をソーシャルメディアなどに流し、人々を扇動する独裁者が登場する危険もある。

 このような状況で、中国はディープフェイク技術を使った映像・音声の制作や公表の制限に踏み切った。米国のカリフォルニア、テキサス両州は政治目的のディープフェイク作成を禁止した。

 しかし日本を含むほとんどの国では、「表現の自由」との兼ね合いもあり、ディープフェイクの利用制限には慎重だ。著作権法違反や名誉毀損などに絡めて間接的に規制しているに過ぎない。つまり、各国の規制が技術進歩のスピードに追いついていないのが実情だ。

 文章や動画でさえ簡単に捏造(ねつぞう)できるようになれば、何を「本物」だと信じれば良いのだろう。放置すれば、社会に疑心暗鬼が蔓延することは間違いない。既にその兆候は現れている。

 米国では最近、ホワイトハウスがツイッターに投稿したバイデン大統領夫妻とカーター元大統領夫妻の写真が「フェイクではないか」と話題になった。

 実際は本物なのだが、広角レンズの影響か、カーター氏(下記写真の左から2人目)の靴は大きく、カーター夫妻は非常に小さく見える。これが「フェイク疑惑」をもたらしたのだ。こうした公式写真でさえ疑いの目で見られる社会では、分断や扇動が起こりやすくなることは容易に想像できる。

写真フェイクと疑われた写真
(出所)Adam Schultz / The White House, via Associated Press

「悪貨が良貨を駆逐」を回避するには?

 大量に生み出されるフェイクが社会を蝕む前に、われわれはどのように備えておくべきだろうか。まず必要なのは、「本物」にお墨付きを与える仕組みの構築だ。

 例えば、フェイクニュースが問題になった報道の世界では、「ファクトチェック機関」の設立が相次いでいる。

 報道の内容や政治家の発言、ソーシャルメディアで流れたうわさなどを第三者機関が検証し、真実性を評価・発表する試みだ。フェイクを見破る技術についても、こうした機関が開発に参加し、「悪貨が良貨を駆逐する」事態を避けるべきだろう。

 「本物」が改ざんされるのを防ぐ技術の普及も必要だ。今でもデジタルデータに電子署名やタイムスタンプを付与する技術はあるが、一般の人が手軽に使えるとは言い難い。この分野には、ブロックチェーン(分散型台帳)技術の応用も期待される。

 一方で、われわれ一人ひとりも新しいフェイク技術の動向を注視し、メディアリテラシーを高める努力を怠ってはならない。ソーシャルメディアの普及に伴い、フェイクに引っ掛かると、次には自分が偽情報を広める「加害者」になってしまうかもしれないからだ。

 歴史を振り返れば、15世紀にグーテンベルクの活版印刷が登場し、「マスメディア」が生まれた。以来、情報発信はどの時代も「フェイク」との戦いだった。

 新聞、写真、映画、ラジオ、テレビ、インターネットと、新しいメディアが生まれるたびに巧妙なフェイクが登場。その度に社会が混乱し、その反省から情報の信頼性を取り戻すと、新たなメディアが...。という繰り返しだった。われわれも今、こうした変革期に生きているのだという自覚を持つ必要があるだろう。

写真活版印刷に利用する活字
(出所)photoAC

TAG:

※本記事・写真の無断複製・転載・引用を禁じます。
※本サイトに掲載された論文・コラムなどの記事の内容や意見は執筆者個人の見解であり、当研究所または(株)リコーの見解を示すものではありません。
※ご意見やご提案は、お問い合わせフォームからお願いいたします。

※この記事は、2021年6月30日発行のHeadLineに掲載されました。

戻る