分散型SNSのMastodonにも小児虐待ポルノコンテンツが拡散

  • X
  • Facebook
  • LINE
  • はてな
  • クリップボードにコピー
  • ×
  • …
分散型SNSのMastodonにも小児虐待ポルノコンテンツが拡散
Image: Tada Images / Shutterstock.com

次世代ソーシャルネットワークのあり方として注目される分散型プラットフォーム。BlueskyMastodon分散型SNSとして有名です。しかし今、コンテンツ規約の甘さを指摘する声があがっています。

Mastodonにて小児性的虐待コンテンツが拡散されているという報告書が公開されました。

報告書を公開したのは、スタンフォード大学のインターネット観測所(SIO)。分散型プラットフォームにおいて、子どもの安全が軽視されていると指摘しています。

残念ながら、中央集権型と分散型でもインターネットのプラットフォームが抱える問題は同じようです。


フェディバースとは?

分散型ウェブというと「フェデレーション」や「フェディバース」という単語が登場します。

これは、ユーザーの自主性やプライバシーを優先するモデル実現のため、中央集権型の所有権やガバナンスを排除したプラットフォーム群のこと。

フェディバースは、無料かつオープンソースのウェブプロトコルで動いており、誰でも自身のサーバーを介してソーシャルコミュニティを主催できます。

冒頭のMastodonが有名であり、そのユーザー数は250万人程度。ユーザー流出が叫ばれるTwitterのデイリーアクティブユーザー数が2億5000万人なことを考えれば、中央集権型に比べると分散型はまだマイナーな存在と言えます。


中央集権がないことのデメリット

分散型は次世代SNSとして期待値が高い一方、デメリットもあります。セキュリティはその問題のひとつ。

全体を監視する中央集権的存在がないことで、違法・または反道徳的なコンテンツからプラットフォームを守るガードがどうしても不十分になっています。

今回のSIOの報告書では、2日間の調査でMastodon上にて約600もの小児性的虐待コンテンツが発見されました。また、調査開始から5分で発見に至るなど、プラットフォーム上の検索で容易に発見できる状態にあったこともわかりました。


悪意ある人間から「緩い場所」と判断されている

レポートでは、簡単かつ大量に小児性的虐待コンテンツが見つかる現状について、こう解説されています。

悪意ある人たちは、モデレーションやポリシーが緩いプラットフォームに流れます。分散型ネットワークのインスタンスは、リソース不足やあえて行動しない選択肢があることで、小児性的虐待コンテンツの検出や規制が難しい。

フェデレーションは、現状、無駄が多く非効率的であり、その結果、小児性的虐待や同意なき性的画像など悪質かつ不当なコンテンツ・行為を防ぐのが困難なのです。


中央集権型も同じこと

分散型が舐められているのなら、中央集権型は厳しいのかというとそうでもありません。プラットフォオームが中央集権化されている・監視の目がある=問題あるコンテンツがない、とはなりません

最近の調査で、ほぼすべての大手SNSには小児性的虐待コンテンツが溢れていることがわかっています。

たとえプラットフォームが高度なモデレーションシステムを搭載していたとしても、それは同じ。特定コンテンツを特定・淘汰できるとは限らないのです。

実際、今年2月、ニューヨークタイムズ紙が、小児性的虐待コンテンツの関与が理由で、Twitterは40万件ものアカウントを削除していた報道。これほどの数を積極的に対応したにもかかわらず、Twitterは悪意あるコンテンツの排除に失敗していると言われています。

ウォール・ストリート・ジャーナルの調査は、Instagram上にも小児性的虐待コンテンツが溢れており、さらにアルゴリズムがそれをオススメしてしまうダメダメ状態だと指摘。

ウォール・ストリート・ジャーナルは「ニッチな趣味を持つ人同士を繋げるオススメシステムが、小児愛者と小児性的虐待コンテンツ販売者を結ぶ手助けをしてしまっている」と皮肉っています(この報道を受け、Metaは社内に対策チームを設置しました)。


中央集権型・分散型問わず、求めるのは新たなツール

中央集権・分散問わず、小児性的虐待コンテンツには苦戦するウェブプラットフォーム。SIOの報告書の主著者であるDavid Thiel氏は、分散型が特に弱いと指摘。

その理由は、中央集権型は違法コンテンツの特定は十分ではないにしろ、発見し排除する必要がある場合はその手段をもっているからだといいます。

一方、Mastodonのような分散型は、違法コンテンツに対応するインフラを持たないと指摘。

米Gizmodo編集部のメール取材にて、Thiel氏はこう語りました。

この問題に対応すべくフェディバースに内蔵されたツールはほぼありません。

一方、大規模プラットフォームは自動ツールを使い問題のあるコンテンツを拒否できます。

中央集権型プラットフォームは、コンテンツに対して最終的な権限があり、可能な限りそれを止める能力があります。

しかし、フェディバースでは、悪意あるユーザーのいるサーバーを切り離すくらいしか術がありません。それでは、コンテンツは拡散されてしまうし、被害者も出ます。

分散型が悪いわけではなく、小児性的虐待コンテンツに対抗するための技術的ツールが、どれも一部の中央集権型プラットフォームを念頭においてデザインされていることが問題だと私は考えます。

新しい環境には新しいツールが必要であり、そのためにはエンジニアリソースと資金が必要なのです。

Twitter離れの科学者がMastodonに流入。マストドンってなんだ?

イーロン・マスクのTwitterを逃げ出した人たちが見つけた心のオアシス、Mastodon(マストドン)。マストドンはドイツのソフトウェアエンジニアのオイゲン...

https://www.gizmodo.jp/2022/11/scientist-moving-to-mastodon.html