Pocochaでは、ユーザーの方々にコミュニティを安心・安全に感じていただくことを最重要と考え、そのために様々な対策を行っています。
その一環として、6月1日から実施した、不正なアカウント利用の抑制機能についてお伝えします。
目次
1.不正なアカウント利用の規制強化について
・サブアカウントを用いた応援を抑制する理由
2.現状の不正対策の取り組み
3.不正行為への対応方針
4.Q&A
1.不正なアカウント利用の規制強化について
6月1日に実施された規制強化と、不正行為の規制を強化する理由をご説明します。
今回は特定の条件によって確認できる「同一人物が複数のアカウントを用いて一人のライバーを応援する行為」を抑制する機能をリリースしました。
上記の応援行動は、Pococha全体に悪影響を及ぼす違反であると考えたため、規制強化を実施することとなりました。
今回対応する違反パターン以外の違反パターンがあることは認知しております。ただし、いきなり全て制限することは該当しないユーザーに対して規制をしてしまったり、思わぬところに影響が出てしまうなどのリスクもあります。そのため、違反検知パターンの多様化や、段階的な規制強化を継続的に実施していく予定です。
●サブアカウントを用いた応援を抑制する理由
Pocochaは、規約・ルールブックに違反しないご利用の中で盛り上がることで生まれる、配信枠同士の健全な環境を作っていきたいと考えています。
多くのサブアカウントによる応援は、Pocochaが目指している健全な競争環境を阻害することにつながると考え、昨年から継続的なサブアカウント取締り強化を実施しております。
●サブアカウントを用いた応援によるPococha全体への悪影響の具体例
例えば、10人のリスナーが応援しているライバーと、1人のリスナーが10個のサブアカウントで応援しているライバーの配信枠が同じ盛り上がりと評価される環境は、フェアな競争環境であるとはいえないと考えています。
そこで、取締り強化を実施していくことで、ルールを守って活動している配信枠に対して正当に光が当たる状態を作っていきます。
具体的には、今回のような「同一人物が複数のアカウントを用いて一人のライバーを応援する行為」の抑制機能の開発や、サブアカウントを通した応援による応援ポイントへの影響を少なくするなどの根本対応を実施していく予定です。
2.現状の不正対策の取り組み
次に、あらためてこれまでの不正行為に対する取り組みをご説明します。
Pocochaは2021年9月より、サブアカウント規制強化を実施しており、現在までで約4000件のアカウント停止を実施しました。
ただし、AIによる自動的なアカウント停止などではなく、下記のような方法や条件で調査対象のユーザーを抽出した上で調査を実施し、無期限の機能制限や一時的な利用制限などの決定をしております。
また、ペナルティ決定の際は明確な違反だと考えられる、厳しい基準を設けております。
●コミュニケーションといえない（例、「、」などのようなコメント）コメント（※1）を自動化する手法を用いて、一定期間以上コメントしている
※1：Pocochaではコミュニケーションを目的としない利用を禁止しています。以下のようなご利用を確認した場合、「コミュニケーションを目的としない利用」と判断し、警告をお送りする場合がございます。
●自分の配信に、自分で作成したサブアカウントを参加させ、そのサブアカウントを通して応援している
●複数のアカウントを作成し、同時配信によりダイヤの重複取得をしている など
今後は、上記に記載した内容以外でも、以下のように明らかな違反パターンに対する規制強化や、継続的な違反基準のアップデートを実施していきます。
●一定期間の間にキラコメが多数を占める連続投稿を確認した場合
●同一コメントを連続で投稿するようなbotの可能性のあるコメントを確認した場合
●ぽこボックス取得のみを目的としたボッコメと呼ばれるような利用を一定期間確認した場合
3.不正行為への対応方針
続いて、1で記載した「配信枠同士の健全な競争環境」を実現するための今後の取り組み方針をご説明します。
まず、不正行為に対して、「予防・検出・対処」の3つの観点で取り組みを強化していきます。
予防
『予防』とは、サブアカウントの利用自体を未然に防ぐ取り組みです。
例えば、サブアカウントを作って活動しても、サブアカウントによる応援行動に対する応援ポイントの獲得量を減少させるなどを考えております。今回実施する「同一人物が複数のアカウントを用いて一人のライバーを応援する行為」の抑制は、「予防施策」の一環になります。
検出
『検出』とは、より多くの違反行動をより早く・正確に検知するための取り組みです。具体的には、以下のような取り組みとなります。
①手動ではできない量のコメントをしているユーザー検知の精密化
②ユーザーからの通報に対する調査手順の効率化
③より効率的に違反行動を検知するための通報システムの構築 など
ただし、単純に通報の有無や通報数の多少のみで違反として取り締まるわけではなく、事実確認をおこなった上で対応を判断しております。違反をしていないユーザーに対して通報をする悪質な通報や誤通報などもあるからです。
対処
最後に、『対処』とは違反行為をしているユーザーに対する対応基準を決め、一時的な利用制限や、無期限の機能制限などの対応のことです。
違反をしていないユーザーを取り締まってしまうようなことが発生しないよう、慎重に対応基準を作成しております。
これまで、AIを用いたアカウントの自動停止などは実施しておりません。AIなどの自動検知を用いた後にペナルティを実行するまえには、複数の条件により一件一件調査を実施した上で、対応しております。また、特定の配信枠における行動だけでなく、そのアカウントのPococha全体における行動で、対処すべきかを判断しております。
そのため、目の前のリスナーが何も違反をしていないように思える場合でも、他の配信枠での行動を踏まえると違反に該当する場合や、サブアカウントの違反行為が確認された場合に、同一人物に紐づいたアカウントを停止する場合があります。
4.Q&A
Q：サブアカウント判定が行われる詳細な基準を公開しないのは何故ですか？
A：サブアカウントの判定ロジックの詳細を公開することで、その基準から逃れる行為を実現しやすくなってしまうからです。例えば、「サブアカウントは10個以上所有したところから判定基準に入ります」などと伝えた場合、「9個まででサブアカウントの作成を留めて違反行為をする」などが容易になってしまいます。そのため、厳密な審査基準などは公開しておりません。
Q：サブアカウントを活用しているユーザーがいるのですが、なぜ全て対処してくれないのですか？
A：1でお伝えした通り、他にも違反パターンがあることは認識しております。現在は検知が困難な高度な手法でサブアカウント大量に作るなどの不正行為も存在します。
ただし、厳しすぎる基準により、サブアカウントを一律でアカウント停止を実施しようとした場合に、基準の観点の抜け漏れなどによる意図しないトラブルの発生リスクが大きいと考えています。そのため、全てのサブアカウントを一律にアカウント停止すること自体が難しいです。
そのような意図しない大きなトラブルの発生を防ぐため、予防・検知・対処のそれぞれの観点で部分的な取り締まり強化を重ねていくことで、最終的には「配信枠同士の健全な競争環境」を実現していきたいと思っています。
Q：アカウントを使い分けて、それぞれ別のライバーを応援しているのですが、この使い方も永久アカウント停止になるのでしょうか？
A：Pocochaでは、複数のアカウントでキャラクターを使い分けて異なるライバーを応援する使い方が既に根付いていると認識しており、現状すぐに停止する予定はありません。ただし、「アカウントを使い分けてキャラを変えて別のライバーを応援する」ことによるPocochaの健全な競争環境への悪影響が全くないとは言い切れない段階であり、今後については未定ですが、慎重に検討して参ります。
Q：通報したのに、通報した相手がすぐに機能制限にならないのはなぜですか？
A：ユーザー全体から受けた通報を1件ずつ確認しているため、全ての通報を迅速に確認し、対応することは難しいためです。また、通報を受けたという情報だけで、通報対象のユーザーを違反として取り締まることもできません。
ただ、①手動ではできない量のコメントをしているユーザー検知の精密化②ユーザーからの通報に対する調査手順の効率化③より効率的に違反行動を検知するための通報システムの構築などを行っていくことで、通報に対する対応速度を早め、精度を高める取り組みは実施していく予定です。
