- AIでフェイク画像を生成する「ディープフェイク」の問題が深刻化している。
- ロシアのウクライナ侵攻では、ゼレンスキー大統領が降伏声明を出す偽の動画も流れた。
- ブロックチェーンの活用で、データの改ざんの有無を証明することができる。
動画に紐づけて真偽を証明、これからのディープフェイク対抗術
AIによるフェイク画像の生成手法である「ディープフェイク（Deepfakes）」で作られた、ウクライナのゼレンスキー大統領が降伏声明を出すというフェイク動画の問題について書きました（戦争でAIが悪用される「ディープフェイク」にどう対処すべきか？
ロシアとウクライナの戦争は、現代ならではの情報戦となっている。拡散される情報によっては、士気はもちろんのこと戦況を左右する。
そのためのフェイク動画も流されるようになっており、この審議を見抜けるかどうかだけでなく、その見抜くスピードが一国の運命を大きく変える時代だ。
dai06
何らかの映像を公開するときは、ブロックチェーンか何かで、真正性が保証された生の映像がセットで公開される仕組みになっていないと、信頼性がないと判断する、というのはとてもよいアイディアだと思いました。
生データにブロックチェーンを紐づければ、それが誰によってどのように使われたかをたどりやすくなる。
その真偽だけでなく、内容や文脈を大きく変えるような切り取りの有無も見つけることができるのではないだろうか。
dai06
ある映像につけられた説明が実際の映像と一致するかを調べる仕組みはないか？ということについては、映像は本物で、説明が偽物といったケースです。自動で映像にアノテーションを付けるような研究もされていますが、自動生成も人間が悪意を持って行うことが可能なため、なかなか難しいですね。しかし、自動生成AIにより映像に付与された説明の不一致を、別のAIで見抜く、ということはできるかもしれません。
テクノロジーの発展により、情報をめぐる戦いも一気に進化した。私たちはそれをどう扱うべきなのか。
ウクライナにおける戦いは対岸の火事ではない。今すぐにでも議論が必要だろう。
dai06
＜参考元＞DIME
