Glossary

コンテンツモデレーション

コンテンツモデレーションというと、一般的にネット上の書き込みをモニタリングする投稿監視業務を指すことが多い。「モデレーション」とは、節度、適度などの意味を持つ単語であり、サイト内のコンテンツがそのサイトにとって適切な状態であることを実現・維持するという意味合いである。

それを表しているのがFacebookやYouTubeなどのSNSにおいてページやグループの管理者、参加者に付与することができる「モデレーター権限」である。「モデレーター」に指名されたユーザーは、投稿やコメントの削除・非表示の権限が与えられ、コミュニティを健全な状態に保つ役割を担う。

ただし、投稿監視のあり方はそのサイトのポリシー(どのようなコミュニケーションを良しとするのか、許容するのかのルール)によって大きく左右される。どのようなコンテンツ・コミュニケーションが「最適」なのかは、そのサイトの目的・ガバナンス次第である。そのためサイト運営において、本来の目的をしっかりと捉えたポリシーを策定することが重要と言える。

そして近年では、スマートフォンとSNSの普及に伴い、モデレーションの対象となるインターネット上のコンテンツは膨大かつ多種多様になった。質と量、双方の観点からコンテンツモデレーションの一部をAIで実施する取り組みが導入されつつある。
このアルゴリズムの訓練には、記事、音声、画像、動画などあらゆるコンテンツに対し、あらかじめ人間が「適切・不適切」とラベル付け(アノテーション)したデータが必要である。

コンテンツモデレーションのAI化により、今後は膨大なデータ量がよりリアルタイムに処理されることが期待される。