维护平台安全是 Bumble 的首要任务。为了更高效地处理违反了我们的 社区指导原则、 条款和条件的行为，或尽快处理Bumble上存在的其他有害或非法内容（称为“违规内容”），我们采取了以下措施：
- 自动化系统——这些系统可以实时识别违规内容，并在某些情况下采取行动。
- 人工审核——根据具体情况审查升级举报内容。
- 用户监管——我们鼓励所有用户使用我们应用内的工具举报、阻止和取消匹配可疑账号。
我们采取的这些措施特别关注某些类型的违规内容，其中包括（但不限于）：
1. 恐怖主义内容
- 我们社区指导原则中的有关反对恐怖主义和暴力极端主义内容禁止宣扬、美化、纵容或支持暴力、危险或恐怖主义活动的个人或组织在应用内活动。
- 我们文本自动检测系统会标记与极端主义内容相关的关键词、短语和行为模式，以供人工审查。
- 此外，上传到应用程序的照片和视频可能会经过人工和/或自动审核，以检测包含枪支、爆炸物或仇恨符号的图像。
- 一旦发现此类违规内容，我们将迅速将其删除，并且会立即封锁相关用户对我们应用程序的访问权限。
2. 儿童性剥削和虐待 (CSEA) 内容
- 我们的《条款与条件》和《社区指导原则》规定 ，Bumble 仅限 已满18周岁的用户使用，我们对任何形式的儿童性剥削和虐待都采取零容忍政策。
- 我们鼓励所有用户使用我们应用内的专项工具举报疑似未成年用户。
- 我们设置了年龄检测机制，旨在检测并撤销任何未满18周岁的个人对该应用程序的访问权限。这一举措可以大大降低儿童被剥削的风险。
- 我们的文本自动检测系统会扫描应用程序上未成年用户的关键词和行为指标，这也有助于我们发现潜在的儿童诱骗企图。
- 我们还部署了主动式儿童性虐待内容 (CSAM) 检测技术。该技术通过与行业标准数据库进行自动哈希匹配，识别并删除已知的 CSAM。经确认的 CSAM 内容将被立即删除，相关账号将被封禁。
3. 欺诈和金融犯罪（包括“感情骗局”）
- 我们的 社区指导原则 禁止任何诈骗或操纵用户以获取钱财或物质资源的诈骗或盗窃活动。我们还禁止用户使用虚假个人资料，并希望所有用户都能在个人档案上真实地展现自己。
- 我们鼓励所有用户使用我们应用内的专项举报功能来举报任何疑似诈骗或虚假资料。
-
我们采用自动和人工检查相结合的方式检测和消除欺诈活动，包括：
- Deception Detector™——一种由专业人工智能驱动的诈骗检测系统，可分析个人资料、参与模式和账号活动，以便在诈骗发生之前主动检测到欺诈行为。我们采取智能技术与专业人力支持相结合的方式保障社区的安全且赋权的环境。
- 金融招揽检测——人工智能驱动和关键字扫描会识别金融招揽信息将移交至人工处理。
- 照片和视频审核：我们采取智能系统和人工图像相结合的审查机制，检测并处理含有名人、二维码或文字的图像。
- 此外，我们专门设立了反垃圾邮件团队持续分析个人资料数据、照片真实性和行为模式，以检测欺诈用户。
- 如果确认存在欺诈行为，被标记为可疑的个人资料将被立即阻止；或当事人需要完成额外的验证才能重新访问我们的应用程序。
4. 其他违规内容
- 威胁、辱骂和骚扰——我们的 社区指导原则 明确禁止欺凌和辱骂行为和内容。我们不希望任何用户个体或团体感到受到骚扰、欺凌或被针对。
- 仇恨言论和有害的错误信息——我们有关身份仇恨的政策禁止任何用户传播或纵容仇恨、非人化、贬低或蔑视边缘化或少数群体的内容或行为。这些群体是基于包括种族/族裔、宗教/信仰在内的一系列受保护特征。
- 我们通过用户举报、智能检测以及人工监管等方法，发现并处理违反这些以及我们其他 社区指导原则 的用户。
非法内容举报的处理
我们的用户在维护Bumble安全方面发挥着至关重要的作用。用户使用举报功能向我们反映违反我们的使用条款、社区指导原则或法律的行为与内容。为了确保迅速采取行动，我们鼓励所有用户在遇见任何让自己感到不舒服或不安全的人时，使用阻止并举报功能。请参阅此文章 详细了解用户向 Bumble举报后会发生什么情况的。自动化工具和人工审核员会分析举报内容并采取适当的行动。
在英国，我们的用户和公众还可以举报 Bumble 上任何他们认为违反我们使用条款、社区指导原则或英国法律的行为和内容。举报请使用 举报表格，并概述违规类型。此表格还可用于对 Bumble 遵守《网络安全法案》方面提出投诉。使用举报表格提交的就所有非法内容和不合规投诉均由人工审核员审核。
如果我们确定举报的内容违反了我们的使用条款、 社区指导原则或法律，我们会结合多种因素制定处罚决议。例如：
- 删除相关内容
- 警告相关用户
- 禁止违规用户使用部分或全部 Bumble Inc. 应用程序
必要时，我们还可能与执法部门合作，协助调查相关成员参与的潜在刑事犯罪。
如果我们确定不合规投诉成立，我们将审查我们的系统和流程，以确保我们遵守相关的《网络安全法》中规定的义务。
使用智能技术主动侦查
我们采用先进的检测技术来主动识别和删除违规内容，包括：
- Private Detector™是一种由人工智能驱动的工具，可以在用户看到露骨图像之前自动检测并模糊处理，以防止出现可能引人不适的色情内容（也称为“网络闪光”）。用户可以选择查看或举报模糊图像。
- Deception Detector™ - 使用机器学习来检测虚假个人资料（请参阅上文“欺诈和金融犯罪”部分，了解更多信息）。
- CSAM 检测- 检测技术包括与行业标准数据库进行自动哈希匹配（有关更多信息，请参阅上文“儿童性剥削和虐待”部分）。
- 人工智能检测和文本机器学习模型，可检测可疑违规内容并移至人工处理。
- 反垃圾邮件系统——分析广泛的个人资料、设备和行为数据，以检测可疑行为模式并主动删除欺诈用户。
我们所有的检测技术都与人工验证团队一起运作，以保障我们采取及时和正确的行动。