【アメリカ】フェイスブック、高度な「ディープ・フェイク」対策発表。投稿削除基準を設定

　IT世界大手米フェイスブックは1月6日、フォトショップ等の加工画像や人工知能（AI）やディープラーニング技術を用いた洗練された加工動画により情報操作を行う「ディープ・フェイク」問題への対応策を発表した。AIを用いた検知を進めるとともに、政府、研究者、業界他社とともに疑わしい投稿アカウントの特定を行う。

　フェイスブックは、偽情報対策を行うため、すでに政府やNGO、研究機関、メディア等を含め50以上の機関との連携体制を敷いている。今回のディープ・フェイク対策も、この連携から生まれたもの。今後40以上の言語で検知し、検知された投稿を削除していく。

　今回削除対象として設定した要件は2つ。まず、特定の誰かが実際には発していないコメントを発しているように見える画像は削除する。画像加工や動画加工でも、鮮明性や一般的な人に似せるためなどは削除対象とせず、例えばきれいに見せたい等と解釈できるものは容認する。また、AIやディープラーニングを用いて、あたかも実際に特定の人物が発しているかのように見える人工動画は削除対象とした。但し、パロディや風刺と認められるものは、削除対象から除外する。

　フェイスブックは別途、ヘイトスピーチやポルノ、暴力等に関するコミュニティ規定を設けており、例えばディープ・フェイク要件は満たさなくても、これらに違反すれば当然削除対象となる。また、要件を満たさなくても、疑わしいものは審議対象となり、連携機関との協議の末、削除すべきと判断されれば、削除する。

　さらに、部分的にディープ・フェイク要件を満たしていると判断された場合、削除しないが、閲覧フィードで上位表示しないなどの視認性を落としたり、広告投稿では広告扱いを拒否することもあると言及した。

　フェイスブックは、ディープ・フェイク検知を強化するため、2019年9月には応募コンテスト「Deep Fake Detection Challenge」を開始。優秀者には、1000万米ドル（約11億円）の寄付金とともに、マサチューセッツ州工科大学（MIT）、カリフォルニア大学バークレー校、コーネル・テック、BBC、AWS、マイクロソフト等のパートナーシップの機会も与えられる。

【参照ページ】Enforcing Against Manipulated Media

株式会社ニューラル サステナビリティ研究所