合成または操作されたメディアに対する新たな対策

Twitterには、公正かつ皆さんの期待に明確にお応えするルールを策定する責任があります。そこで昨秋、合成または操作されたメディアに対処するにはどうしたらよいか、世界中の皆さんのご意見を改めて募集することを発表しました。本日、そこから何を学び、そしてTwitterルールにどのように反映されるのか、このようなコンテンツを検知した際にどのように対応するのかをご紹介します。この一環として皆さんが新たにTwitter上で見ることになる変更点も同時にお知らせします。

調査により分かったこと

ルールの変更案に関する短い調査や#TwitterPolicyFeedback のハッシュタグの付けられたツイートから、6,500件以上の回答を得ました。また、草案については市民団体や学術研究者など多様でグローバルなグループとの意見交換も行いました。全体として、誤解を招く改ざんされたコンテンツの脅威が認識されており、それらに対してTwitterが対策をとることを皆さんが求めていることが明らかとなりました。主な調査結果は次のとおりです。

• Twitterはもっと多くの情報を提供するべきである世界中のTwitter利用者の70%以上が、改ざんされ誤解を招くコンテンツに対し「何の手段も講じない」ことは容認できないと回答しました。回答者のほとんどがこれらのコンテンツを含むツイートに関する追加情報や背景情報をTwitterから提供してほしいという意見で一致しました。

• 当該コンテンツにはラベル付けが必要である回答者の10人中9人が、大幅に改ざんされたコンテンツの横に警告ラベルをつけることは容認できるとしました。またほぼ同数の人が、誤解を招く改ざんされたコンテンツをツイートする前に警告を表示することは妥当であると回答しました。

これらのコンテンツを非表示にすることについては、警告を表示してほしいという意見に比べてやや消極的でした。例えばアメリカでは55%の人たちがそのようなコンテンツをすべて削除することが好ましいと回答しました。一方で改ざんされたコンテンツをすべて削除することに反対する人たちからのルール案についての自由回答では、表現の自由や検閲についての意見が多く寄せられました。

• 危害を加える可能性がある場合は削除すべきである  90%の人たちは、なんらかの危害を加える意図があることが明確である場合は、そのようなコンテンツをTwitterが削除することを支持すると回答しました。
• これらのコンテンツを共有するアカウントには対処が必要である75%以上の人が、誤解を招く改ざんされたコンテンツを共有するアカウントに対する強制措置が執行されるべきであると答えました。強制措置には、Twitterによる該当ツイートの削除やアカウントの凍結が含まれます。

Twitterの新たなルール

Twitterの新たなルールでは、危害をもたらすおそれのある合成または操作されたコンテンツを共有し、他者を欺いてはなりません。合成または操作されたコンテンツを含むツイートには、皆さんがその信ぴょう性を確認できるよう、またその背景を理解できるようTwitterが該当ツイートにラベル付けをする場合があります。

本ルールでは、以下の基準に従い、ツイートやコンテンツにラベル付けまたは削除を行います。

1.合成または操作されたコンテンツか？：コンテンツが他者を惑わすような方法で大幅に改ざんまたは捏造されているかどうかは次のような要素で判断します。

• 構成、流れ、タイミング、枠組みを根本的に変えてしまうほどの大幅な編集が加えられているか
• 視覚情報または音声情報（新たな動画フレーム、音声吹き替え、字幕の変更など）が追加または削除されているか
• 実在の人物に関するコンテンツが捏造または模造されているか

2.コンテンツが他者を惑わすような方法で共有されているか：Twitterでは、真実でない話を真実として伝えるなど、コンテンツの共有されている背景情報が混乱や誤解を招いたり、コンテンツの性質や発信源に関して人を欺く意図が認められるかどうかを確認します。

コンテンツと共に提供されている背景を考査します。以下に例を示します。

• コンテンツに添えられているツイートのテキスト、またはコンテンツに含まれているテキスト
• コンテンツに付随するメタデータ 
• コンテンツを共有する人のプロフィール情報
• コンテンツを共有する人のプロフィールやコンテンツを共有するツイートにリンクされているウェブサイト

3.コンテンツが公共の安全を脅かし重大な危害をもたらしうるか：合成または操作されたコンテンツを共有するツイートが危害をもたらしうる場合、本ポリシーに基づき削除の対象となります。このような危害として具体的には以下のようなものが挙げられます。

• 個人やグループの身体的安全に対する脅威
• 集団暴力や暴動のリスク
• 個人やグループのプライバシー、自由な表現や市民集会への参加に対する脅威。例えばストーカー行為や望ましくない脅迫観念、特定のターゲットを沈黙させるための比喩、罵り、素材などを含むコンテンツ、有権者に対する抑圧や脅迫など

Twitter上での表示

Twitterで共有されるコンテンツが他者を惑わすような方法で大幅に改ざんまたは捏造されていると思われる場合、ツイートに以下の情報を追加します。

（例）

• ツイートにラベルを付ける
• リツイートやいいねの前に警告を表示する
• Twitter上でツイートを表示されにくくし、または「おすすめ」されないようにする
• 可能であれば、背景情報が含まれるウェブサイトへのリンクなど追加情報を提供する

ほとんどの場合、ラベル付けするツイートには上記のすべての措置を講じます。

Twitterはこのようなコンテンツを含むツイートへのラベル付けを2020年3月5日より開始します。 

これは私たちにとっても挑戦であり、これらを実施するうえで間違いが起こることもありえますが、根気よくお付き合いいただけると幸いです。ただし、本件に関して適切に取り組むことをお約束します。今後も公の場で皆さんに参加いただきながらルールを変更することをTwitterの中核的なアプローチとしてまいります。 

Twitterは公共の会話の場を提供していくとともに、私たちのなすべきことに利用者の皆さんとオープンに取り組んで参ります。