チャットフィルター

Contents

イントロダクション

チャットフィルターは、不適切な語句を排除するPhoton Chatアプリケーション向けのアドオンフィルターです。 不適切な単語を含むメッセージを自動的にスキャン、検出およびフィルタリングします。

Photon Chatのフィルタリング設定は簡単です。 まず ダッシュボードから、アクセス可能なPhoton Chatアプリケーションの 管理ページへ移動します。 そこに「Chat Filter」セクションがあります。

Default Chat Filter Setup
デフォルトのチャットフィルターセットアップ

チャットフィルターアドオンの設定を有効にするには、まずCommunity Siftの規約に同意する必要があります。 「Setup Chat Filter」 ボタンをクリックすると、アプリケーションのチャットフィルターを設定するための専用ページに転送されます。

Photon Chatフィルターの使用には、以下の2通りの方法があります。

Back To Top

Photon Cloudセットアップ

Photon Cloudのチャットフィルターアドオンセットアップは、コミュニティを安全に保ち、崩壊から守るための一般的な環境を提供しています。

Chat Filter Common Setup
Photon Cloud チャットフィルターのセットアップ

利用可能なポリシーの中から、自分のユーザーに最適なものを選びます。

  • 13歳未満 (最も安全)  この設定は、13歳未満のアプリ利用者が対象で最も安全です。ホワイトリストに似た設定が使用され、  語句はすべて現実世界での表記と一致しなければなりません。ユーザー名が誤表記と認識される可能性があります。

  • 13歳-17歳 (制限的) これは13歳-17歳 (デフォルト)よりも厳しい設定です。 制限的なため、「wtf」「ass」などの単語も下品であると認識されます。 厳しすぎる場合には、デフォルトの設定を検討してください。

  • 13歳-17歳 (デフォルト)  製品の性質上、より許容度の高い設定がアプリ利用者に対して必要で、ユーザーを信頼できる場合には、この設定を使用してください。ただし、10代のユーザーと自身のブラン ドも守ることが重要です。  

  • 18歳以上(寛容) この設定は18歳以上のアプリ利用者が対象で、すべての設定のなかで最も許容度が高くなっています。ユーザーが18歳以上で、より自由度の高い発言をユーザーに認める場合にはこの設定を使用してください。この設定では、ユーザー同士が自由に交流でき、非常に有害性の高い語句のみが排除されます。

フィルタリングポリシーの詳細については、「ポリシー詳細」 セクションを参照してください。 ご使用のアプリがCOPPAやその他のコンプライアンスを必要とする場合は、 カスタムソリューションについてCommunitySiftチームに相談してください。

その他のオプションについては 「一般的なオプション」セクションを参照してください。

Back To Top

Community Sift Enterpriseのセットアップ

Community Sift Enterpriseは粒度の高い管理、自動化、ヒューマンモデレーションツール、評価管理、詳細報告、分析、上目盛、不正、スパムなどに注力しています。 モデレーションツールの拡充や有害なコンテンツの大幅削減をおこない、前向きでオープンなチャットややりとりのオプション、個人メッセージをユーザーに利用してほしいとお考えの場合には、ぜひPhoton Chatをご利用ください。インストールは非常に簡単で、インストール完了後はすべての高度な機能をお使いいただけます。 チャットフィルターは、いつでもEnterpriseバージョンにアップグレード可能です。

Chat Filter Custom Setup
チャットフィルターのカスタムセットアップ

API Key」フィールドには、先頭にコロン文字列':'をつけたCommunity Sift API KeyをBase64エンコードした文字列の値を入力する必要があります。 つまり、最初は以下のフォーマットです。「:<apiKey>」 その後base64エンコーディングをおこない、Base64Encode(":<apiKey")となります。 以下のオンラインエンコーダーの使用をお勧めします:base64encode.org

:
1- Community SiftからAPI Keyを取得します: fKzuAskPmdLoeLAv3WBM 2- 先頭に':'をつけ、エンコード対象の文字列にします::fKzuAskPmdLoeLAv3WBM 3- Base64エンコードをおこない、ダッシュボードフィールド「APIキー」への入力値とします:OmZLenVBc2tQbWRMb2VMQXYzV0JN

その後、お使いのPhoton Chatアプリケーションの2つのアドオンオプションである「リソースURL」と「ポリシー」を、Community-Siftのダッシュボードにあるセットアップに一致させます。 以上で設定完了です。

その他のオプションについては、 「一般的なオプション」 セクションに記載されています。

Back To Top

Community Sift EnterpriseとPhoton Cloudのセットアップの比較

  Photon Cloud Community Sift Enterprise
不適切な語句のフィルター
ポリシーガイド
各ポリシーガイドの粒度コントロール
評価管理
ブラックリストおよびホワイトリストの編集
画像のフィルタリング
詳細なレポートと分析
人間へのエスカレーション
COPPAコンプライアンス

Community Siftによるゲーム保護の詳細を参照するには、こちらからデモをご予約ください。

Back To Top

共通のオプション

Photon Cloud ChatフィルターアドオンとCommunity-Sift Enterpriseセットアップに共通のオプションを使用して、アプリのクライアントとプレイヤーがチャットルームに投稿する内容をコントロールしましょう。

フィルターアドオンが有効
フィルター設定を有効にするにはボックスにチェックマークを入れます。 テストなどでフィルタリングを無効にするにはチェックマークを外します。

フィルタリングされたメッセージを返す
不適切な語句の入ったメッセージは、Community Siftによって空白以外の文字がすべて「#」に変換されます。 「ハッシュ化」されたメッセージを返すには、このオプションを選択してください。

フィルタリングされたメッセージを除外する
チェックマークを入れた場合、不適切な語句の入ったメッセージは返されません。

使用不可能な場合、廃棄する
Community-Siftのバックエンドで対応不可能な場合。 このボックスにチェックマークが入っていると、Photon Chatのメッセージは送信されません。 メッセージがフィルタリングされずに送信されてもかまわない場合は、チェックマークを外したままにしてください。

Chat Filter Enabled
チャットフィルターの有効化

保存すると、構成されたフィルターの設定が自分のPhoton Chatアプリケーションに追加されます。 このため、ダッシュボードからいつでもフィルター設定のアップデートや無効化、削除をおこなえます。

Back To Top

フィルタリングされるメッセージ形式

Photon Chatは、すべてのオブジェクトの型について切替を許容しています。 下表にPhotonチャットフィルターがサポートするデータ型、またそれぞれのデータ型がどのように処理されるかを示します:

Message Type メッセージ型 フィルター対象 C#での例
プレーンテキスト文字列 '{'で始まらず、'}'で終わる文字列はその文字列ごとフィルタリングされます。 string msg = "message with bad words";
JSONオブジェクト文字列 '{'で始まり'}' で終わる文字列は、文字列化されたJSONオブジェクトとみなされます。 正常にシリアル化されると、その"msg" キー(小文字) -該当する場合-が文字列ならばその値はフィルタリングされます。 string msg = @"{""msg"":""message with bad words"", ""ignoredKeyEg"":0}";
ハッシュテーブル
ディクショナリ<string, object>
"msg"キー(小文字)-該当する場合-が文字列ならばその値はフィルタリングされます。その他の値は確認されません。 Dictionary<string, object> msg = new Dictionary<string, object>(){{"ignoredKeyEg", true}, {"msg", "message with bad words"}};
配列 最初の要素-該当する場合-が文字列ならばフィルタリングされます。その他の要素は確認されません。 object[] msg = new object[]{"message with bad words", -1, false};

さらに、以下の事項に留意する必要があります:

  • Photonのその他のシリアル化可能な型や登録済のカスタム型はフィルタリングされません。
  • フィルタリングオプションが「フィルタリングされたメッセージを除外する」に設定されている場合には、テキスト部分だけではなくオブジェクト全体が除外されます。
  • 文字列配列をチャットメッセージとして送信する際にフィルターを無視したい場合には、最初の要素を「安全な値」(例 null)に設定してください。
  • メッセージデータが複雑な場合には、Photon Chat Filterがサポートする一部の型をネストすることが可能です。 ただし、Photon Chatフィルタリングは再帰的ではなく、最上位レベルにのみ(ルートオブジェクト)適用されます。
  • Dictionary<object, object>はサポートされず、Dictionary<string, object>がサポートされます。

Back To Top

トリガー

トリガーは非常にユニークな機能で、どのような場合にプレイヤーの信頼が増し、また信頼が損なわれるかを設定できます。 Photon Cloudには、事前に選択して設定したポリシーに合致する最適なセットアップがあります。 Community Sift Enterpriseソリューションでは、設定は完全にカスタマイズ可能です。 コミュニティに参加すると各プレイヤーはデフォルトから開始し、自身を表現する機会は均等に提供されます。 ポジティブな貢献をしたプレイヤーは信頼が増し、よりオープンなチャットが与えられます。 同様に、有害なユーザーを特定した場合にはそのユーザーは非信頼となり、そのユーザーが貢献する機会は制限されます。 この機能によって混乱が避けられ、コミュニティの魅力が保たれます。また、有害なユーザーに対しては、ポジティブな貢献をおこなう機会が与えられます。

フローを以下に示します:

トリガー 結果…
デフォルト> 非信頼 プレイヤーは制限されます。
非信頼> デフォルト プレイヤーは復元されます。
デフォルト> 信頼済み プレイヤーが信頼済みとなります。
信頼済み> デフォルト プレイヤーは信頼を失います。

Back To Top

ポリシーの詳細

13歳未満 (最も安全)

13歳未満のアプリ利用者が対象で最も安全です。 ホワイトリストに類似した設定が使用され、語句はすべて現実世界での表記と一致しなければなりません。 13歳未満に着目していることから、特定できる電話番号、 メールアドレス、住所、本名、外部サイトへのリンクは差し止められます(高リスクと考えられるため)。 ユーザーがネガティブな発言を続ける場合は、グレーゾーンだった単語をいじめ・性的表現・下品な言葉として削除し、ディクショナリを縮小します。

スペルミスとみなされるためユーザー名が不適切な語句と誤検出される可能性があります。 ユーザー名の誤検出を回避するには、ユーザーがルームに入室し名前を登録する際に通知します。 個人情報の共有も禁止しているので、長い数列も不適切な語句として誤検出される可能性があります。

Back To Top

13歳-17歳 (デフォルト)

製品の性質上、より許容度の高い設定がアプリ利用者に対して必要で、ユーザーを信頼できる場合には、この設定を使用してください。ただし、10代のユーザーと自身のブランドも守ることが大切です。 このポリシーでは不適切な語句を検索するブラックリスト系のアプローチを使用し、特に中程度から重大なレベルのサイバー上のいじめ、性的メッセージ、下品な言葉、人種差別などの表現を検出します。 軽度のリスクに対してフィルタリングしすぎてしまうこともあるので、検出が多すぎる場合にはもう少し緩和されたルールを試してみてください。 この制限では十分でない場合は、13歳-17歳 (制限的)モードに切り替えてください。 ユーザーが一向にルールを守らない場合は、ブラックリストを拡張してグレーの用語について一般的には許可、ただし特定のユーザーが使用した場合は有害と判定します。 この仕様が実装されている理由は、ルールを守らないユーザーは、常にほかのユーザーを傷つけるチャンスをうかがっていると考えるられるためです。

ブラックリストに類似した機能であるため、自身のコミュニティが非常にクリエイティブである場合には、攻撃的になりうる用語についてフィルターをすり抜けることがある点に注意してください。

Back To Top

13歳-17歳 (制限的)

これはデフォルトより厳しい設定です。 単に特定のトピックについて検索するのではなく、400,000以上のシグネチャについてマスタリストを確認します。 これにより下品な言葉、性的な表現、人種差別をブロックするのに加えて、WebサイトURLの共有、個人情報、自殺や自傷に関する表現、過激集団の求人などについても検索が行われます。 また誤検出につながる紛らわしいパターンについても検索します。 ユーザーが一向にルールを守らない場合は、ブラックリストを拡張してグレーの用語について一般的には許可、ただし特定のユーザーが使用した場合は有害と判定します。 制限的なポリシーのため、「wtf」や「ass」なども下品な表現と認識されます。 このポリシーが厳しすぎる場合はデフォルトに近い10代向けの設定にするか、またはハッシュオプションを採用すれば、回避したい用語が####に変換されます。

Back To Top

18歳以上(寛容)

この設定は18歳以上のアプリ利用者が対象で、すべての設定のなかで最も許容度が高くなっています。 ユーザーが18歳以上で、より自由度の高い発言をユーザーに認める場合にはこの設定を使用してください。 この設定では、ユーザー同士が自由に交流でき、非常に有害性の高い語句のみが排除されます。

具体的には、自殺・明らかなネット上の性的表現・レイプ・過激な人種差別につながるような重大なサイバー上のいじめを検出します。よく使われる、fから始まるののしり言葉は許可されますが、Cから始まる非常に不快感の強い言葉や意図的にスペルを変えたののしり言葉を記述した場合には許可しません。

Back To Top

カスタム

許可する用語や問題となるトピック、対応と制限の自動化について詳細なカスタム設定をおこなう場合は、カスタムのEnterpriseソリューションについてCommunity Siftのチームに相談してください。Enterpriseソリューションにはライブチャットログ、日次レポート、詳細分析、コンピューターラーニングによるヒューマンモデレーションの削減、コンテンツの自動エスカレーション、画像フィルタリング、ユーザーの自動評価管理などの高度な機能が実装されています。

ドキュメントのトップへ戻る