ITパスポート 試験情報＆徹底解説

ディープラーニングによって学習した生成AIが作る、本物と見まごうほど精巧にできた偽の画像、動画、音声などの生成物のこと。

適切な方向に使用すれば、映画製作やAIによるテレビニュース読み上げなど、大きな利便性をもたらす技術である反面、政治的・宗教的対立をもたらす目的で作成された各国要人に見せかけた動画や音声、有名アーティストを模倣した作品による権利侵害、個人を傷つける目的で作成された性的な画像や動画、投資詐欺を目的とした著名人の偽の音声、生体認証を用いたセキュリティを欺くための偽画像、など多くの問題も抱えている。また最近ではフェイク情報をスマートフォンやパソコンで簡単に作成できるツールも登場しており、フェイク情報の被害者になる危険性だけでなく、自らがフェイク情報の発信者になる危険性についても注意を払う必要がある。一方でディープフェイク対策として、動画や画像が人工的に操作されている確率や信頼度スコアを表示するツール、報道機関などから提出された疑わしい動画合成に用いられた要素検出と信ぴょう性評価を行うサービス、検出ツール開発促進のためのオープンソースのフェイクデータのデータベース提供など、ディープフェイクを検出するためのツール開発や支援する活動も数多くなされている。

ディープフェイクは様々な問題を抱えているものの、現在十分に法整備が行われているわけではない。カリフォルニア州などで選挙におけるディープフェイクについての規制法が成立しているが、日本国内ではディープフェイクに関する法案は成立していない。