SNSが乗っとられて、公式がフェイク動画を出している可能性も！だまされない方法はある？

全ての画像を見る

最近急増中のフェイク動画に騙されないために気をつけるべきことを、話し合いました。

女性が気になる話題について、スタジオで生討論を繰り広げるフジテレビ『ノンストップ！』の金曜恒例コーナー「ノンストップ！サミット」。

11月17日（金）の放送は、「フェイク動画最新事情」というテーマで、MCの設楽統さんと斉藤舞子フジテレビアナウンサー、千秋さん、カンニング竹山さん、鈴木あきえさん、「婦人公論」元編集長の三木哲男さんが討論しました。

岸田文雄首相のフェイク動画が作られるなど、生成系AIで作成されたフェイク動画が急増中。

鈴木さんは、「以前、スポーツ選手との熱愛のニュースが出たことがあるが、使われていたのは合成写真だった。こんなことが簡単にできてしまうのかと驚いたのに、今はもっと進化している」と驚きの表情で語りました。

サイバーセキュリティに詳しい会社「トレンドマイクロ」のスタッフによると、音声を作成するソフトを使えば、3秒ほどの短い動画からでも自在に音声を作ることが可能。

ソフトの使い方も、インターネットで簡単に調べることができるのだといいます。

竹山さんが「10年くらい前は、動画は信用できるという感じだったけれど、今は無理。それこそ、AIに真偽を判断してもらわないといけないレベルに来ているのでは？」と語ると、千秋さんは「例えば、小学生が悪意もなく作った動画で、社会がひっくり返るようなことも起こるかも」と危機感を口にしました。

「トレンドマイクロ」の岡本勝之さんは、「今は有名人を使った動画が多いが、例えばTikTokなどの動画と音声を悪用して一般の人がフェイク動画の標的になる可能性もある。生成系AIは悪いことのために作られたものではなく、例えば亡くなったアーティストの声で新曲を作ったりと、楽しく便利なもののためにできたのに」と、使い方を考えるよう訴えました。

「ニュース番組の動画を加工し、アナウンサーが投資を勧めているようなフェイク広告を作った」という悪質な事例も紹介されました。

岡本さんによると、SNSでは写真を使ったフェイク広告は本当に多くなっているそうですが、「動画の方がより信憑性が高く見えてしまう。最近では、フェイク広告からLINEグループに誘導されて、詐欺につながるケースもある」のだとか。

またアメリカでは、母が電話に出ると15歳の娘の泣き叫ぶ声が聞こえてきて、身代金を要求されたものの、娘の音声はフェイク音声だったという事件も発生したといいます。

千秋さんは「身代金を要求した脅迫の罪のほかに、フェイク音声を使ったら罰則が倍になるというふうにしないと、同じことが繰り返される」と指摘。

竹山さんも「生成系AIを自由に使ってはいけないというルールにすると、技術の発展が止まってしまう。リアルをきちんと見極める力を持つ人と、そうでない人の分断が進む、厄介な時代になった」と分析しました。

中国では、「知人からのビデオ通話に従って約8400万円を振り込んだら、フェイク動画を使った詐欺だった」というケースも報告されています。

鈴木さんが「相手の反応が予想外のケースもあるのに、フェイク動画で会話までできるの？」と質問すると、岡本さんは「ボイスチェンジャーのような装置を使えばできる」と断言。

岡本さんによると、社内での上司からの命令がフェイク音声だったというケースもあったそうで、「今までの特殊詐欺は、別人の声を子どもや孫だと認識させていたが、これからは本人の声で詐欺の電話がかかってくることも増える」と考えられるそうです。

千秋さんが「LINEで表情に合わせてキャラクターの顔を動かすことができるが、その技術があれば別人の顔も動かせそう」と言うと、竹山さんは「VRの世界では、そもそもアバターだから、本当にわからない」とお手上げの様子でした。

気になるフェイク動画を見抜く方法については、岡本さんは「明確な方法はない。人間の目では見破れないほど技術は進化しているので、怪しいと思ったら身近な人に再度確認するなど、慎重に行動してほしい」とアドバイスを。

SNSでのフェイク動画に踊らされないためには、「本人の公式アカウントが発信しているか」を確認するのが最初のポイントなのですが、「SNSが乗っとられて、公式がフェイクを出している可能性もある」と岡本さん。

だまされないためには、「動画のコメント欄に『フェイクだ』などと見抜いている人がいるので、コメント欄もきちんと読む」「動画がどういう経緯で流れてきたのかを、しっかり見極める」ことが重要だそうで、岡本さんは「無防備に拡散に手を貸すと、自分も犯罪に加担することになるので、慎重に」と言い添えました。

また、YouTubeやFacebookでは生成系AIを使った場合は明示することが義務化されたといい、岡本さんは「自分が動画を公開する際に、だますつもりはないということの証明になる」とその効果について語りました。

番組公式HP：https://www.fujitv.co.jp/nonstop/

番組公式Facebook：https://www.facebook.com/CXNONSTOP

番組公式X（旧Twitter）：https://twitter.com/nonstop_fujitv

番組公式Instagram：https://www.instagram.com/Nonstop.staff/