Xにおける児童性的搾取への取り組みに関する最新情報

2024年1月31日、上院司法委員会でのCEOリンダ・ヤッカリーノCEOの冒頭発言

ダービン委員長、グラハム委員長、そして委員の皆様： 未成年者のオンライン上の安全を守るためのXの活動について話し合う機会をいただき、ありがとうございます。

今日の公聴会は、早急な行動を求める危機と題されています。母親として、これは自分ごとでもあり、皆さんと同じように危機感を抱いています。

Xはまったく新しい企業であり、世界と民主主義にとって不可欠なプラットフォームです。Xが解決策の一部となることをお約束します。

私は2023年6月にXに入社したばかりですが、政府や擁護団体、NGOと協力し、人々を守るためにメディアの力を活用してきた経験があります。入社前、私はこの新しい会社が子どもたちを守るためにリーダーシップを発揮していることに感銘を受けました。

Xは子どもやティーンに選ばれるプラットフォームではないし、Xには子ども向けの事業もなく、13歳未満の子どもはアカウントを開設できません。

Xの米国ユーザーのうち、13歳から17歳のユーザーは1パーセントにも満たないものとなります。これらのユーザーは、デフォルトで自動的にプライベート設定になり、承認しない相手からのメッセージは受け取れません。

過去14ヶ月の間に、Xは未成年者を保護するため、重要な変更を行いました。私たちのポリシーは明確です。Xは、児童の性的搾取を特集したり、助長したりするような内容に対しては、一切容赦しません。

証言書には、禁止されているコンテンツや行為に関するXの広範なポリシーの詳細が記載されており、その中には、子どもへの性的虐待、恐喝、児童性的搾取（CSE）の被害者とされる人物の特定などが含まれています。

また、悪質なユーザーがあらゆるメディアを通じてCSEコンテンツを配信、検索、関与することを防ぐため、より多くのツールやテクノロジーを用いて取り締まりを強化しています。

CSEコンテンツがXに投稿された場合、私たちはそれを削除します。また、CSEコンテンツに関与したアカウントは、それが本物であろうとコンピューターが作成したものであろうと、すべて削除します。

昨年、XはCSEポリシーに違反したとして1,240万件のアカウントを停止しました。これは、2022年にツイッター社が削除した230万アカウントよりも増加しています。

2023年、XはNCMEC（National Center for Missing and Exploited Children）に、史上初の完全自動化レポートを含む85万件のレポートを送信しました。これは買収前の8倍です。

私たちはトラスト アンド セーフティのチームを再編成し、強力で機敏なチームを維持します。テキサス州オースティンに「トラスト アンド セーフティ センター オブ エクセレンス」を設立し、より多くの職員を動員して、私たちの動きを強化させています。

さらに業界全体の進展を図るため、技術連合のプロジェクト・ランタンに応募しています。また、透明性を高めるためにアルゴリズムを公開しました。

私たちはアメリカがこの解決策をリードすることを望んでいます。

Xは上院が報告法を可決したことを評価し、我々はシールド法を支持します。今こそ、同意のない親密な画像の共有を犯罪とする連邦基準が必要です。

私たちは、インターネット・エコシステム全体の基準を引き上げる必要があり、特に今日ここにおらず、この問題に取り組んでいないテック企業の基準を引き上げる必要があります。

XはStop CSAM Actを支持します。Kids Online Safety Act（キッズ・オンライン・セーフティ法）は引き続き進展させるべきであり、私たちは言論の自由を確実に保護するために、この法律に関与し続けます。

さらに、私たちが注意を払う必要がある分野が2つあります。第一に、法執行機関はこれらの悪質な犯罪者を裁くための重要な資源を持たなければなりません。第二に、人工知能によって、犯罪者の手口は洗練され、進化し続けるでしょう。

Xは、言論の自由とプラットフォームの安全性は共存可能であり、共存しなければならないと考えています。今こそ私たち全員が緊急に行動すべき時であると思います。ありがとうございました。

—-------—-------—-------—-------—-------—-------—-------—-------—-------—-------—-------

Xでは、CSE対して一切許容せず、未成年者を搾取しようとする者をXが寄せ付けないように努力しています。2023年、私たちはオンライン上のCSEに取り組むことを最優先事項として明確にしました。

全く新しい会社として、XはCSEに取り組むためのポリシーと執行を強化しました。現在では、このようなコンテンツを配信しているユーザーに対して措置を講じるとともに、このような恐ろしいコンテンツに関与しているユーザーのネットワークに対しても直ちに措置を講じています。

Xは、子どもや未成年者に選ばれるプラットフォームではありませんが（13歳から17歳のユーザーは、米国の1日のユーザーの1％未満です）、悪質なユーザーがX上でCSEコンテンツを共有したり、CSEコンテンツに関与しづらくし、同時に、ユーザーがCSEコンテンツを報告することをより容易にしました。

2024年、私たちはこの分野への投資に関する詳細な最新情報を共有し続けます。私たちは、NCMECに報告するため、プラットフォーム上でより多くの報告すべきコンテンツを見つけるための検出メカニズムを改善しています。さらに、テキサス州オースティンにトラスト アンド セーフティのを設立し、社内のエージェントを増員することで、私たちの影響力をさらに加速させています。

ここでは、私たちの進捗状況と、この重要な分野への継続的な投資に関する包括的な最新情報をお伝えします。

CSE対策

2023年、XはCSE対策のための追加ツールとテクノロジーに投資した結果、CSEポリシーに違反したアカウント1,240万件を停止しました。これは2022年の230万アカウントから増加しています。

また、XはNCMECとも密に連携しています。2023年、XはNCMECに85万件のレポートを送信しました。その中には史上初の完全自動化レポートも含まれており、これはツイッターが2022年に送信したレポートの8倍以上です。

私たちは、より多くの悪質なユーザーをより早く検知しているだけでなく、この種のコンテンツを含む投稿の発見可能性を積極的に低下させる新たな防御策も構築しています。私たちが最近実施した対策の1つに、2022年12月以降、既知の児童性的虐待資料（CSAM）パターンの検索成功件数を99％以上減少させたことが挙げられます。

先進テクノロジーとプロアクティブ・モニタリング

私たちは、より多くのコンテンツやアカウントを検出し、対処する能力を強化するため、製品や人材に投資しています。また、私たちの能力を強化できるサードパーティの開発者による先進技術を積極的に評価しています。主なものは以下の通りです：

• NCMEC報告の自動化： 2023年2月、史上初の完全自動化されたNCMEC CyberTiplineレポートを送信しました。これまでNCMECのレポートはすべてエージェントが手作業で確認し、作成していました。Thornとのメディア・ハッシュ・マッチングにより、現在では人手を介さずに、数分で自動的にNCMECにサスペンド、デアクティベート、レポートを行っています。これにより、過去1年間で50,000件以上の自動NCMECレポートを提出することができました。
• 動画とGIFへのハッシュマッチングの拡張： これまでで初めて、Xに投稿されたすべての動画とGIFをCSAM用に審査、評価しています。2023年7月にこの新しいアプローチを開始して以来、70,000以上のメディアが該当しています。
• CSEキーワードの検索介入を開始： CSAMのインプレッションは、他のどの表示面よりも検索面で多く発生しています。2022年12月、特定のキーワードの検索結果を完全にブロックする機能を開始しました。以来、2,500以上のCSEキーワードとフレーズをこのリストに追加し、ユーザーが一般的なCSEキーワードで検索できないようにしています。

強力なパートナーシップとグローバル規模の協力

私たちは、オンラインCSEと闘うという使命を共にする、信頼できる組織からのフィードバックや意見を常に求めています。

NCMECはCyberTiplineプログラムを管理し、世界のステークホルダーを定期的に招集、法執行機関からの実用的なフィードバックを促進することで、私たちの活動をより良いものにしています。その他の重要なパートナーは、技術連合（Tech Coalition）とWeProtectで、私たちの技術革新を後押しし、新たな脅威や行動に関する重要な情報共有を提供する同盟です。

2022年12月、私たちは新しい製品パートナーシップを立ち上げ、以前よりも多くの違反メディアを取り締まることができるようになりました。Thornによって構築されたSaferは、技術プラットフォームが児童性的虐待の素材を特定し、削除し、大規模に報告することを可能にします。

2014年から加盟しているInternet Watch Foundationは、技術的なシグナル、トレンドと脅威の分析、メンバーとの協力の機会を提供し、CSAMコンテンツを改善する能力に直接影響を及ぼしています。Point de Contactのような国際的なホットライン事業者は、報告書と独自の監視に基づいて、不正コンテンツの疑いがあるものにフラグを立てます。Xは、デジタル環境における子どもの権利のために立ち上がるという国際的な呼びかけに応え、パリ平和フォーラムの子ども保護ラボに積極的に参加しています。

また、私たちのシステムを補完することができる新しいマルチステークホルダー・プログラムやイニシアティブへの参加を評価しています。

継続的な改善と定期的な見直し

Xでは、これまで以上に監視を強め、積極的な取締りを行っています。私たちのチームは、オンライン上の児童の性的搾取に対抗するための対策を定期的に見直し、その有効性とパフォーマンスを継続的に確保するための改善を実施しています。年間を通じてこの分野への投資を増やした結果、測定可能な大きな成果が得られました。

4月以降、NCMEC報告のためのツールと方針について、コンテンツ・モデレーターのトレーニングを強化しました。その結果、手作業で提出されるNCMECレポートの量は、月平均6,300件から、2023年6月から11月までの月平均64,000件へと、10倍に増加しました。私たちは、以前よりも多くの潜在的なCSAMの情報源を評価しています。

法執行機関との協力

最終的には、悪質なユーザーを裁き、法執行機関がこれらの凶悪犯罪を起訴するために必要なツールと情報を持つことが重要です。Xは世界中の法執行機関と協力し、削除要請、情報提供要請、保全要請、緊急要請を提出するためのオンラインポータルを提供しています。このチャネルを通じて、法執行機関は法執行の捜査目的や不正コンテンツの削除のために法的要求を提出することができます。法執行機関との継続的な対話と知識の共有は、私たちの使命を達成するための鍵です。

今後の展望

児童の性的搾取を阻止するための活動は、今後も最優先課題です。児童の性的搾取がなくなるまで、私たちの活動は決して止まることはありません。

2024年、私たちはこの重要な分野への強力な投資を継続し、ネット上での児童の性的搾取撲滅に協力することの重要性について、ユーザーを啓蒙する取り組みを拡大していきます。私たちは、Xを表現の自由とユーザーの安全が損なわれることのない公共の場とすることを約束します。

私たちは皆、児童を守り、児童の性的搾取を防止する役割を担っていることを忘れないでください。共に協力することで、子どもたちが成長し活躍できる、より安全な世界を作ることができるのです。

1. 不審な行動を報告しましょう： 児童の性的搾取に関連していると思われるコンテンツに出くわした場合は、X、地元の警察、およびNCMECに通報してください。
2. 自分自身と他人を教育する： 児童の性的搾取の兆候とそれを防ぐ方法について、さらに学んでください。この情報を友人、家族、同僚と共有し、意識を高め、子どもたちを守る一助としましょう。
3. 子どもの性的搾取と闘う団体を支援する： 子どもの性的搾取の防止や生存者の支援に取り組む団体に、自分の時間や資源を寄付することを検討しましょう。
4. ソーシャルメディアで警戒する： オンラインで共有する情報には慎重になり、子どもが不適切なコンテンツに触れたり、悪質なユーザーに狙われたりしないよう、子どものオンラインでの行動を注視しましょう。

X リソース

• 児童の性的搾取に関するポリシー
• このポリシーに違反すると思われるコンテンツは、児童の性的搾取に関するフォームを使用して報告してください。
• Xアプリでは、児童性的虐待（CSAM）の報告に加え、児童性的搾取、子どもへの性的虐待、身体的児童虐待（未成年）など、児童の安全に関するあらゆる問題を報告することができます。報告方法の詳細については、ヘルプセンターをご覧ください。

パブリックリソース 

• NCMECに報告する
• コンテンツが米国外のウェブサイトでホストされていると思われる場合は、International Association of Internet Hotlinesのウェブサイトで報告することができます。

法執行機関のリソース

• 法執行機関のためのガイドライン
• 法的要請提出サイト
• 法執行機関または政府当局からの一般的な問い合わせ（ユーザーデータやコンテンツの削除を要求するものではない）は、このフォームから送信できます。