ボットか否か、Twitterにおけるプラットフォームの操作について

数年前から、「ボット」についての議論が盛んに交わされるようになりました。しかしその後、時間の経過とともにネガティブなイメージでボットという言葉が使われることが増え、しかもボットの意味自体が誤解されて使われるようになりました。

実は、ボットという言葉の定義は、自動化されたアカウントから、個人的あるいは安全上の理由から匿名を希望する個人、あるいはプライバシーに関する強い懸念から写真の掲載を避けている個人まで、使う人によって大きく異なります。希望したアカウント名が既に使われていたために、自動的に生成された数字でできたアカウント名が、誤ってボットとして認識されることもあります。これ以外で、とても困惑することに、政治的権力を持つ地位にある人たちが、自分の意見に反対する可能性のある人たちや、自分にとって好ましくないオンラインでの世論を貶めるための表現として、ボットという言葉を利用することまであります。

また、ボットについての分析を提供する商用サービスは数多くありますが、その調査対象は完全にTwitterに特化しているケースがほとんどです。それはTwitterがAPIを通して無料でデータを公開しているからであり、その分析結果の精査や検証がめったに行われないこととあいまって、実際に何が起こっているのかが一般の方にはわかりにくなる要因になってしまっています。

ボットとは何か

これらのことからわかるように、ボットの定義とは非常に複雑であり、それ以上に私たちはより説明責任を果たす必要があると考えています。ボットとは要するに、自動化されたアカウントのことであり、それ以上でも、それ以下でもないということをご理解いただきたいのです。

数年前、Twitterでも自動化されたアカウントが問題になりました。そこで私たちはこの問題に着目し、集中的に技術や人員に投資を行いながら、Twitterのあらゆる場面でこの問題に取り組み、大きな成果を成し遂げました。

2020年になった今、単にアカウントが自動化されているかどうかではなく、アカウントの行為全体に焦点をあてることがこれまで以上に重要になっています。ボットというレッテルを貼るだけでは私たちが解決しようとしている問題の解決にはならず、意見を表明するためにTwitterを必要としている人に対して間違いを犯してしまう可能性があるからです。この問題のポイントは、ボットかボットでないかではなく、両者の間に潜む意図は何かということです

Twitterではこれをプラットフォームの操作と呼んでいます。これは私たちが注力している最も重大な問題の一つです。

プラットフォームの操作とは何か

Twitterでは様々な形式のプラットフォームの操作に対して、積極的な取り組みを行っており、これには悪意のある自動化も含まれます。この分野におけるTwitterのポリシーが重視しているのは行為であって、コンテンツではありません。様々な個人や集団がTwitter上の会話を操作する目的で行うスパム的な手口が対象となっています。何をツイートしているかではありません。

ここで注意すべきは、必ずしも自動化のあらゆる形式がTwitterのルール違反になるわけではないという点です。Twitterでの体験を豊かなものにする、画期的で創造的な自動化の活用方法はいくつも存在します。@pentametronや@tinycarebotといったアカウントがその好例です。

自動化はカスタマーサービスの対応でも強力なツールになり、会話型のボットは注文や旅行の予約に関する情報を自動的に見つけるためにも大いに役立ちます。特に、ソーシャルディスタンスが求められる現在、小規模な企業にとって非常に実用的かつ効率的です。

どのようなことが禁止されているのか

• 何かをトレンドにしようとするなど、自動化を悪用して公共の会話を阻み、混乱させる行為
• 複数アカウントや重複するアカウントを作成したりして、Twitter上の会話を実態よりも大きくみせかけること
• 偽のエンゲージメントを生成したり、勧誘したり、購入したりすること
• 大量もしくは攻撃的なツイート、エンゲージメントやフォローの獲得に関わること
• 無関係なハッシュタグを使用するなど、ハッシュタグをスパム的に利用すること（いわゆる「ハッシュタグクラミング」）

Twitterでは、事前にそのような行為を特定して排除するために、かつてないほど技術力を結集しています。毎月、何百万もの自動化されたアカウントやスパムアカウントを永久凍結しており、こうしたアカウントが決してTwitterのタイムラインや検索結果に表示されることのないようにしています。

また、6カ月ごとに発行する「Twitter Transparency Report（Twitterの透明性に関するレポート）」で削除されたアカウントに関するデータを公開しています。

ボット判別ツールの扱いについて

ボット判別ツールでは、まず人の目でアカウントの判別を行います。大抵の場合、Twitterで公表されているものと同様の一般的な公開情報を用いてアカウントの特徴を識別して、ボットかどうかの判断を行います。基本的にアカウント名、ツイートのレベル、プロフィールに記載された所在地、使用したハッシュタグが判断の基準になっており、極めて限定的な手法といえます。

前述の通り、奇妙なハンドル名の付いたアカウントは、多くの場合、サインアップ時にすでに希望するハンドル名が使われていたため、自動的にそのハンドル名の使用が推奨されたケースもよくあります。写真や所在地を明らかにしていないアカウントは、オンラインプライバシーに関して思うところがあったり、Twitterを利用することで何らかのリスクにさらされる可能性のある活動家や反体制派の人のものかもしれません。アカウントのプロフィールを最小限にしたり、位置情報を明かしたくないと思うのは珍しいことではありません。仮にこうした公開情報をもとに機械学習モデルがボットかどうかの予想を試みたとしても、アカウントの公開情報をもとにした人間の分析に頼るとすれば、はじめからその過程には何らかのバイアスが入り込んでいる可能性もあるのです。

この点をはっきりさせるために、もっと身近な例を考えてみましょう。1日に100回、#SuperBowl をつけてツイートする人がいたとします。この人は単に、アメリカンフットボールをこよなく愛し（もしくはひいきのチームの調子が悪いために嫌になってかもしれません）、尋常なくTwitterに没頭しているだけかもしれません。もし、環境問題に深い関心があり、自分や友人たちで影響力を高めたいと考えて、特定の政治的な話題についてツイートしたからと言って、その行為は「政治的ボット」には当てはまりません。自分のコミュニティにおける変化を推し進めるために、オーガニックキャンペーンを組織する活動的な市民であるというだけです。

従来、ボット判別ツールには、Twitterのこうした一般的な利用例が把握されておらず、私たちがこれまでどのような経緯をたどり、どのように進化してきたかも考慮されていません。そうすると、誰かがボットかそうでないかという二者択一でしか判断できず、微妙な違いが見失われます。その結果、Twitterにおける公共の会話に危害を与える可能性があります。

Twitterは完璧ではありません。ただ、Twitterを欺くような脅威は進化し、想定していたこと以上のことが起こり得るため、時には後手に回ることもあり得ます。

Twitterで疑わしい行為を見たら報告できますか？

もし疑わしい行為を見つけたら、Twitterに報告してください。他の多くの人々からのシグナルと併せて担当チームに通知されます。

私たちは、健全なプラットフォームを構築することをミッションとして、メンバーそれぞれの役割を果たさなければなりません。Twitterではこの点を繰り返し強調してきており、グローバルな公共の会話において重大な局面を迎えている今だからこそ、こうした一般の人々に向けた取り組みをより強力かつ直接的に進めてまいります。

最後に、この領域におけるTwitterの責任をとても認識しています。そして、Twitter上のサービスの整合性を維持し、プラットフォームを操作しようとする一切の試みを排除していきます。そして、定期的にこの問題に関する取り組みの進捗状況や新たな知見を更新し、情報を公開することによって、透明性を担保していくことも、そうした責任の一端だと考えています。