安全はBumbleの最優先事項です。当社のコミュニティガイドラインや 利用規約に反するコンテンツや有害または違法なコンテンツが削除されるまでの期間を最小限に抑えるため、 またはBumbleに有害または違法なコンテンツ（以下「違反コンテンツ」といいます）が残っている場合、当社は次のシステムを併用して実装しています。
- 自動化システム– 違反コンテンツをリアルタイムで検出し、場合によっては適切な措置を講じます。
- 人間によるモデレーション– 重大なケースを適切な文脈で確認するようにします。
- メンバーの管理機能– すべてのメンバーに、アプリ内ツールを使用して疑わしいアカウントを通報、ブロック、またはマッチング解除することを推奨しています。
当社は、これらの措置を、特定の種類の違反コンテンツ（ただし以下に限定していません）に特に焦点を当てて実施しています。
1. テロリズムに関するコンテンツ
- テロリズムと暴力的過激主義に関する当社のコミュニティガイドラインでは、暴力、危険、またはテロ行為を公言、賛美、容認、または支持する個人または組織がアプリ上で活動することを禁止しています。
- 当社の自動化されたテキストベースの検出システムは、過激派コンテンツに関連するキーワード、フレーズ、行動パターンを検出し、人間による確認を行います。
- さらに、アプリにアップロードされた写真や動画は、銃器、爆発物、憎悪のシンボルを含む画像を検出するために、人間によるモデレーションとまたは自動検出の両方を行う場合あります。
- 万が一、このカテゴリーに該当する違反コンテンツが確認された場合には、当該コンテンツは速やかに削除され、該当メンバーはアプリへアクセスできなくなります。
2. 児童性的搾取と虐待（CSEA）に関するコンテンツ
- 当社の利用規約およびコミュニティガイドラインに基づき、Bumbleは成人（18歳以上）のみが利用可能なサービスであり、いかなる形態の児童の性的搾取や虐待に対しても、一切容認しない方針をとっています。
- すべてのメンバーは、アプリ内の専用ツールで指定された報告理由を使用して、未成年者と疑われるメンバーを報告するよう強く推奨されます。
- 当社は、18歳未満の個人によるアプリへのアクセスを検出・停止するための年齢確認対策を導入し、児童性的搾取のリスクを大幅に軽減しています。
- 当社のプロアクティブな自動テキストベースの検出システムは、アプリ内で未成年者のキーワードと行動の兆候をスキャンし、児童に対するグルーミング行為の試みを早期に検出できるよう促進しています。
- 当社では、業界標準のデータベースとの自動ハッシュ照合技術を活用した、児童性虐待コンテンツ（CSAM）の積極的な検出技術を導入しています。これにより、既知のCSAMを特定し削除します。CSAMが確認された場合、即時の削除とアカウントのブロック措置が実施されます。
3. 詐欺と金融犯罪（ロマンス詐欺を含む）
- 当社のコミュニティガイドラインでは、メンバーから金銭や物質的資源を詐取したり操作する目的で詐欺行為や窃盗行為をおこなったりすることを禁止しています。偽装プロフィールを禁止し、すべてのメンバーがプロフィールにおいて正確に最新情報を反映することを求めています。
- 詐欺や偽装プロフィールの疑いがある場合、すべてのメンバーにアプリ内ツールの通報理由を用いて、速やかに通報をお願いしています。
-
当社では、不正行為を検出して排除するために、次のような自動チェックと手動チェックを組み合わせて使用しています。当社は、不正行為の検出と削除のため、下記を含む、自動化審査と手動の確認を組み合わせて実施しています。
- Deception Detector™ – プロフィールデータ、エンゲージメントパターン、アカウント活動を分析し、詐欺が発生する前に積極的に欺瞞を検出する独自のAI駆動型詐欺検出システムです。この技術は、安全で力強いコミュニティを優先するために、専任の担当者によるサポートと組み合わせて活用しています。
- 金融勧誘の検出 - AIを活用したキーワードスキャンにより、金融勧誘を検出するフラグを立て、人間によるマニュアル確認へ引き継ぎます。
- 写真と動画のモデレーション：自動画像審査と人間によるマニュアル画像審査を組み合わせ、有名人、QRコード、テキストを含む画像を検出し上位の対処レベルへ引き継ぎます。
- さらに、当社の専任のスパム対策チームがプロフィールデータ、写真の真偽、行動パターンを継続的に分析し、不正なユーザーを検出しています。
- 不正な行為が確認された疑わしいプロフィールは、不正行為が確認された場合、即座にブロックされるか、アプリへのアクセスを再開する前に追加の認証完了が課されます。
4. その他の違反コンテンツ
- 脅迫、虐待、ハラスメント、当社のいじめと虐待的な行為に関するコミュニティガイドラインのポリシーに明記されている通り、個人またはグループがハラスメント、いじめ、または標的とされていると感じさせるコンテンツや行為は一切許容されません。
- ヘイトスピーチと有害な誤情報– 当社の「アイデンティティに基づくヘイトポリシー」は、人種/エスニシティ、宗教/信仰を含む幅広い保護属性に基づいて、 社会的弱者や少数派コミュニティに対する憎悪、非人間化、貶め、または軽蔑を助長または容認するコンテンツや行為を禁止しています。
- これらのポリシーやその他のコミュニティガイドラインに違反する行為は、メンバーからの通報やAIを活用したツールによって検出され、人間によるモデレーションの対象としてフラグが立てられます。
違法コンテンツに関する通報への対応
当社のメンバーは、利用規約、コミュニティガイドライン、または法律に違反する可能性のあるコンテンツや行為を通報することで、Bumbleの安全性を確保する上で重要な役割を担っています。 確実に迅速な対応を取るために、すべてのメンバーは不快または危険を感じさせる行為を行うユーザーを[ブロック＆報告] するよう強く推奨しています。メンバーがBumbleに通報した際に何が起こるかについては、こちらの記事をご確認ください。自動化ツールと人間のレビュー担当者が報告されたコンテンツを分析して、適切な対応を決定します。
英国では、メンバーや一般のユーザーも、Bumble上で当社の利用規約、 コミュニティガイドライン、またはイギリス法に違反していると思われるコンテンツを、違反の種類を明記した通報フォームを通じて報告することができます。このフォームは、Bumbleのオンライン安全法遵守に関するあらゆる点についての苦情を申し立てるためにも使用できます。通報フォームを通じて提出された違法コンテンツおよび非準拠苦情に関する報告はすべて、人間のモデレーターによって審査されます。
通報されたコンテンツが当社の利用規約、コミュニティガイドライン、または法律に違反していると判断した場合、当社は複数の要因を考慮して罰則を決定します。たとえば、次のようなことが考えられます。
- コンテンツの削除
- 警告の発令
- 違反したメンバーをBumble Inc.のアプリの一部またはすべてから利用禁止にする
必要に応じて、メンバーの行為に関連する潜在的な犯罪捜査を支援するために法執行機関に協力することもあります。
不遵守に関する苦情が正当であると判断した場合、当社はシステムおよびプロセスを見直し、関連するオンライン安全法の義務にの遵守を確保します。
プロアクティブ技術の活用
当社は、違反コンテンツを積極的に特定し削除するために、次のような高度な検出技術を採用しています。
- Private Detector™ - AIを活用したツールで、ユーザーに届く前に露骨な画像を自動的に検出しぼかし処理し、望ましくない性的なコンテンツ（いわゆる「サイバーフラッシング」）の拡散を防止します。ユーザーは、ぼやけた画像を即座に表示するか通報するかを選択できます。
- Deception Detector™ - 機械学習を活用して不正なプロフィールを検出します (詳細については、上記の詐欺および金融犯罪のセクションを参照してください)。
- CSAM検出- 業界標準のデータベースとの自動ハッシュ照合を基盤とする検出技術（詳細情報については、上記「児童性的搾取と虐待」のセクションを参照してください）。
- AIを活用した検出機能とテキストベースの機械学習モデルにより、違反の疑いのあるコンテンツを検出し、エスカレーションします。
- スパム対策システム- プロフィール、デバイス、および行動に関する多様なデータを分析し、疑わしい行動のパターンを検出します。不正なユーザーを積極的に排除します。
当社のすべての検出技術は、人間の検証チームと連動して動作し、正確な施行を保証します。