「寿司ペロなんてかわいいもの」SNS＆動画投稿サイト削除人語る過酷実態…森咲智美は通報のお得意さん
「とくに2023年になってから、ネットに投稿される“飲食テロ動画”の炎上が止まりません。富山県では、容器からガリを“直食い”する少年が登場し、甘だれの容器に醤油を混入させる女性客も出現。本人たちはちょっとしたいたずらだと考えているだけなのかもしれませんが、被害を受けた店の多くは、損害賠償請求など、厳しく対処する予定だと発表しています」（ITジャーナリスト）
「“寿司ペロ”なんてかわいいものですよ。そもそも犯罪動画を投稿したところで、削除対象にはなりません」
「厳密な守秘義務契約を結んでいるので、私がどのサービスのモデレーターを務めているのかは明かせません。従業員の身の安全を守るため、勤務場所すら極秘扱いになるほど秘密の多い職場です」（A氏）
「駐車場でふざけて脱糞している動画や、暴行事件、自殺未遂など、人間の醜い二面性を晒すような投稿を延々とチェックし、削除するかどうか判断するんです。毎日100件のノルマをこなしていると、精神的に参ってきますよ。緊急で重大な問題があると判断した場合、捜査機関や運営本社に報告することもあります。たとえば『いまから死にます』『殺します』といった投稿ですね」
「『ポリシー』や『ガイドライン』と呼ばれる基準に従って、削除すべきか判断しています。最初はこうした基準を熟読するところから始まり、例題を何度も裁いて、数カ月間、研修を受けます。業務が始まると、我々が裁いた事例をAIがランダムに評価し、“不当判決”を多く出しているモデレーターは、会社から査定を下げられてしまいます。過酷な業務内容のわりに、給料はサラリーマンの平均年収程度です。ひどい投稿を見るのが嫌になって、すぐに辞めてしまう人もいます。ほとんどが20～30代の男性ですね」（A氏）
「いちばんは、いわゆる誹謗中傷ですね。その加害者や被害者が未成年かどうかで、対応が分かれます。未成年者は強く保護する決まりなので、ちょっとした悪口程度の投稿でも削除対象になります。また、有名人か一般人かでも対応が変わります。たとえば、芸能人への誹謗中傷は、一般人より緩い基準で判断されます。モデレーターの間では常識ですが、ネット上で日本一、悪口を言われているのは、芸人のクロちゃんです。『水曜日のダウンタウン』（TBS系）の放送がある日は『キモい』だの『死ね』だのといった投稿が一気にあふれ返りますが、削除基準にあてはまらず、削除されないケースもあります」
「オタク同士は、アイドルグループのなかで“最推し”が誰か、といった論争で揉めますね。政治関連も、よく“燃え”ます。ただ、いわゆる“ネトウヨ”よりも、リベラル系やフェミ系と呼ばれる方たちの投稿のほうが問題です。正義感が暴走し、他人を誹謗中傷してもかまわない……という感覚なのかもしれません」（A氏）
「児童ポルノは非常に多いですよ。制服を着ている女のコが自慰行為をする、といった動画や写真です。業者がお金目的で投稿することもあれば、承認欲求を満たすためなのか、本当に幼い女の子が裸を晒してしまうこともあります。大人の女性でも、規定以上の露出があれば問題になります。我々にとっての“お得意さん”は、グラビアアイドルの森咲智美さんです（笑）。過激な衣装での投稿が多く、よく通報されています」
「ジャニーズのファンや腐女子などが、自分の妄想したエロ小説やBL小説を投稿するんです。露骨で具体的な性描写があれば規制しますが、それを判断するためには、全文に目を通す必要があります。正直、キツイですよ。ほかには『電磁波攻撃を受けている』とか『世界はディープステートに支配されている』といった、支離滅裂な陰謀論を読むのもしんどいです。ただ、児童ポルノや殺人予告など、削除に至る本当に危険な投稿は、全体の3割ぐらい。逆に、無数の投稿があるなかで、こちらが世間の反応を予測し、炎上しそうな投稿を見つけ出して削除するなんて不可能ですよ」（B氏）
「あくまでモデレーターは、各プラットフォームの基準に従って判断するだけですからね。店内で迷惑行為に及ぶ程度の内容が、削除基準に引っかかることはほぼありません。一連の炎上騒動のポイントは、ほとんどの動画が、単独ではなく友人同士で撮影している点、地方都市や郊外店舗が舞台となっている点です。彼らは、SNSや動画投稿サイトが全世界に公開されている、という感覚がなく、あくまで仲間内で楽しむつもりで、動画をアップしただけなんです。根底には、あえて過激な行動を取り、自身の存在をまわりにアピールしたい、という歪んだ自己承認欲求があります。こうした行為を規制するのは非常に難しいでしょう」
「昨今のGAFAをはじめとする世界的なIT業界の不況を受け、ネット企業各社では、経費削減やレイオフ（一時解雇）を進めています。真っ先に削られるのが、コンテンツ監視業務にかかる人員や予算です。しかし、それにより“違法投稿”への監視が、手薄になる可能性が高まります。そうなると、健全なプラットフォームとしての評価を失い、スポンサーが離れることで、各社のおもな収入源である広告収入が減少する……。この悪循環に陥る可能性があります」（井ノ口氏）
写真・時事通信、産経新聞