Bumble 以安全為先。為盡量縮短可能違反我們的《社群指導原則》、《條款與細則》或以其他方式構成傷害或違法的內容 (又稱「違規內容」) 在 Bumble 停留的時間，我們部署了以下多項措施：
- 自動化系統：這些系統可以即時識別違規內容，並在部分情況下採取行動。
- 人工審核：確保我們審核已升高處理級別的個案時，以適當的情境為根據。
- 會員控制權：我們鼓勵所有會員使用應用程式內的工具檢舉、封鎖和取消配對可疑帳戶。
我們採取以下措施特別關注特定類型的違規內容，包括但不限於：
1. 恐怖主義內容
- 我們的《社群指導原則》明定恐怖主義和暴力極端主義的政策，禁止宣揚、美化、縱容或支持暴力、危險或恐怖主義活動的個人或組織在應用程式內活動。
- 我們的自動化文本偵測功能會將與極端主義內容關聯的關鍵字、用語和行為模式標記為需要人手審核。
- 此外，上載到應用程式的照片和影片可能會經過人手和/或自動化審核，以偵測包含槍械、爆炸品或仇恨符號的圖像。
- 萬一出現這類罕見的違規內容，我們會迅速將其移除，並撤銷有關會員的應用程式存取權。
2. 兒童性剝削和虐待 (CSEA) 內容
- 根據我們的《條款與細則》和《社群指導原則》 ，Bumble 僅限 18 歲以上成年人使用，我們對任何形式的兒童性剝削和虐待都採取零容忍政策。
- 我們鼓勵所有會員在應用程式內的工具選擇具體檢舉原因，檢舉任何疑似未成年會員。
- 我們部署了年齡保障措施，旨在偵測任何未滿 18 歲的人士並撤銷其應用程式存取權，從而大大降低兒童被剝削的風險。
- 我們的主動式自動化文本偵測功能會掃瞄應用程式上顯示未成年會員身分的關鍵字和行為，這也有助於我們識別潛在的誘識兒童企圖。
- 我們還部署了主動式兒童性虐待內容 (CSAM) 偵測技術，該技術透過與行業標準資料庫進行自動化雜湊配對，識別並移除已知的 CSAM。一旦確認為 CSAM，我們便會立即移除內容並封鎖帳戶。
3. 詐騙和財務罪行 (包括「愛情騙局」)
- 我們的《社群指導原則》禁止任何旨在詐騙或操縱會員以獲取金錢或物質資源的欺詐或盜竊活動。我們也禁止虛假個人檔案，希望所有會員都能在個人檔案上準確地表現自己。
- 我們鼓勵所有會員在應用程式內的工具選擇具體檢舉原因，檢舉任何疑似欺詐或虛假個人檔案。
-
我們結合自動化和手動檢查，偵測並移除有詐騙成分的活動，包括：
- Deception Detector™：這個專利 AI 詐騙偵測系統能分析個人檔案資料、參與模式和帳戶活動，以便在欺詐發生之前主動偵測欺騙行為。這項技術與專門人手支援相結合，以社群安全和自主性為先。
- 金錢索求偵測功能由 AI 驅動，會掃瞄並標記關鍵字，並將金錢索求相關的訊息提升為需要人手審核的級別。
- 照片和影片審核：我們以自動化和人手影像審核方式偵測包含名人、QR 碼或文字的影像，並提升處理級別。
- 此外，我們專門的反垃圾內容團隊持續分析個人檔案資料、照片真實性和行為模式，以偵測有詐騙意圖的會員。
- 如果確認行為有詐騙成分，我們會立即封鎖被標記的可疑個人檔案，或要求有關會員完成額外的驗證程序，才能重新存取應用程式。
4. 其他違規內容
- 威脅、虐待和騷擾：根據我們的《社群指導原則》關於霸凌與辱罵行為的政策所述，我們不容許使任何個人或團體感到被騷擾、霸凌或針對的內容或行為。
- 仇恨言論和有害的錯誤資訊：我們關於身分相關仇恨的政策禁止內容或行為宣揚或縱容基於各種禁受歧視的個人特徵 (包括種族/族裔和宗教/信仰) 針對邊緣或少數群體的仇恨、非人化、貶低或蔑視。
- 我們透過會員檢舉或 AI 工具偵測違規內容以及違反其他《社群指導原則》政策的行為，並標記為需要人手審核。
針對違法內容檢舉的行動
我們的會員可以檢舉可能違反我們的《使用條款》、《社群指導原則》或法律的內容或行為，對 Bumble 的安全發揮著至關重要的作用。為了確保迅速採取行動，我們鼓勵所有會員使用「封鎖並檢舉」檢舉任何令其感到不舒服或不安全的會員。請參閱此文章以進一步瞭解會員向 Bumble 提出檢舉後會發生的情況。自動化工具和人手審核員會分析檢舉的內容，以判斷採取什麼適當行動。
在英國，如果會員和公眾認為 Bumble 上的任何內容違反我們的《使用條款》、《社群指導原則》或英國法律，也可以透過我們的檢舉表格列明違規類型。如果你想就 Bumble 對《網絡安全法》合規情況的任何方面提出投訴，亦可以使用此表格。透過檢舉表格提交的所有違法內容檢舉和不合規情況投訴，均由人手審核員審核。
如果我們確定檢舉的內容違反了我們的《使用條款》、《社群指導原則》或法律，我們會考慮多種因素來決定處罰方式。例如，我們可能會採取以下行動：
- 移除內容
- 發出警告
- 禁止違規會員使用部分或全部 Bumble Inc. 應用程式
如有需要，我們也可能會與執法部門合作，協助進行與會員行為相關的潛在刑事調查。
如果確定不合規投訴成立，我們便會審核系統和程序，以確保履行相關的《網絡安全法》義務。
使用主動式技術
我們採用進階偵測技術來主動識別和移除違規內容，包括：
- Private Detector™：此 AI 工具可在會員看到露骨影像之前自動偵測並模糊處理，以防止不受歡迎的色情內容 (也稱為「網絡暴露」）。會員可以選擇查看或立即檢舉模糊影像。
- Deception Detector™：透過機器學習偵測虛假個人檔案 (詳情請參閱上文「詐騙與金融犯罪」部分)。
- CSAM 偵測功能：這項偵測技術與行業標準資料庫進行自動化雜湊配對 (詳情請參閱上文的「兒童性剝削和虐待」部分。)
- AI 偵測功能和文本機器學習模型，可偵測疑似違規內容，並提升處理級別。
- 反垃圾內容系統：分析各式各樣的個人檔案、裝置和行為資料，以偵測可疑行為模式並主動移除有詐騙意圖的會員。
為確保執行準確度，我們所有偵測技術皆與人手驗證團隊配合運作。