Bumble은 안전을 최우선으로 생각합니다. 당사 커뮤니티 가이드라인, 이용 약관 또는 기타 유해하거나 불법적인 콘텐츠가 Bumble에 남아 있는 기간 ('위반 콘텐츠‘ 라고 함) 을 최소화하기 위해 다음과 같은 조합을 활용합니다:
- 자동화된 시스템 – 이를 통해 콘텐츠를 식별하고 경우에 따라 실시간으로 위반 콘텐츠에 대해 조치를 취합니다.
- 인간 주도 중재 – 이관된 케이스가 적절한 맥락에서 검토되도록 합니다.
- 회원 관리 – 모든 회원이 앱 내 도구를 사용하여 의심스러운 계정을 신고하고, 차단 및 짝을 해제할 것을 권장합니다.
당사는 다음을 포함하되 이에 국한되지 않는 특정 유형의 위반 콘텐츠에 특히 중점을 두고 이러한 조치를 취합니다:
1. 테러 콘텐츠
- 위험한 조직 및 개인에 관한 당사 커뮤니티 가이드라인은 앱에 폭력적, 위험적 또는 테러리스트 기반 임무를 선포, 미화, 묵인 또는 지원하는 개인 또는 조직을 금지합니다.
- Patreon의 자동화된 텍스트 기반 탐지 기능은 극단주의 콘텐츠와 관련된 키워드, 문구, 행동 패턴을 사람이 직접 검토할 수 있도록 표시합니다.
- 또한, 앱에 업로드된 사진과 동영상은 총기, 폭발물 또는 혐오 기호가 포함된 이미지를 감지하기 위해 사람 및/또는 자동 검토를 거칠 수 있습니다.
- 드물지만 이 카테고리의 위반 콘텐츠가 생성된 경우, 해당 콘텐츠는 신속하게 삭제되며 해당 회원은 앱의 접속이 금지됩니다.
2. 아동 성 착취 및 학대 (CSEA) 콘텐츠
- 당사의 서비스 약관 및 커뮤니티 가이드라인에 따라 Bumble은 만 18세 이상의 성인만 사용할 수 있으며, 모든 형태의 아동 성 착취 및 학대에 대하여 무관용 정책을 시행하고 있습니다.
- 모든 회원은 앱 내에서 미성년자로 의심되는 회원을 특정 신고 사유를 사용해서 신고하도록 장려받습니다.
- 당사는 18세 미만의 모든 개인이 앱에 접속하는 것을 탐지하고 취소하도록 설계된 연령 보장 조치를 배포하여 아동 착취의 위험을 크게 줄입니다.
- 앱에서 미성년 사용자의 키워드 및 행동 지표에 대한 사전 예방적 자동 텍스트 기반 탐지 스캔을 통해 잠재적인 미성년자 그루밍 시도를 탐지하는 데도 도움이 됩니다.
- 또한 알려진 아동 성학대 자료(CSAM)를 식별하고 제거하기 위해 업계 표준 데이터베이스에 대한 자동 해시 매칭으로 구성된 사전 예방적 아동 성학대 자료 탐지 기술을 활용합니다. 확인된 CSAM을 통해 즉시 계정이 삭제되고 차단됩니다.
3. 사기 및 금융 범죄 (‘로맨스 사기’ 포함)
- 당사의 커뮤니티 가이드라인은 회원들의 금전적 또는 물질적 자원을 횡령하거나 조작하려는 사기 또는 절도 행위를 금지합니다. 또한 인증되지 않은 프로필을 금지하며 모든 회원이 프로필에서 스스로를 정확하게 표현할 것을 기대합니다.
- 모든 회원은 앱 내 도구에서 특정 신고 사유를 사용하여 사기 또는 허위 프로필로 의심되는 사기를 신고하도록 장려받습니다.
-
당사는 다음과 같은 부정 행위를 감지하고 제거하기 위해 자동 및 수동 검사를 조합하여 활용합니다.
- Deception Detector™ – 사기가 발생하기 전에 속임수를 사전에 탐지하기 위해 프로필 데이터, 참여 패턴 및 계정 활동을 분석하는 독점적인 AI 기반 사기 탐지 시스템입니다. 이 기술은 힘을 실어주는 커뮤니티의 안전을 최우선시하기 위해 전담 인력 지원과 함께 사용됩니다.
- 금전 요청 탐지 - AI 기반 및 키워드 스캐닝 플래그이며 금전 요청 메시지를 수동 검토를 위해 이관시킵니다.
- 사진 및 동영상 검토: 유명 인사, QR 코드 또는 텍스트가 포함된 이미지를 감지하고 이관하는 자동화 및 수동 이미지 검토.
- 또한, 당사의 스팸 방지 전담 팀은 사기성 사용자를 탐지하기 위해 프로필 데이터, 사진 진위성 및 행동 패턴을 지속적으로 분석합니다.
- 의심스럽다고 표시된 프로필은 앱에 다시 접속하기 전에 추가 인증을 완료해야 하거나 사기 행위가 확인되는 경우 즉시 차단됩니다.
4. 기타 위반 콘텐츠
- 위협, 학대 및 괴롭힘 – 괴롭힘 및 학대 행위에 관한 당사 커뮤니티 가이드라인 정책에 명시된 바와 같이, 해코지, 괴롭힘 또는 타겟팅을 당했다고 느끼게 하는 콘텐츠나 행동은 허용되지 않습니다.
- 혐오 발언 및 유해한 허위 정보 – 당사의 신원 기반 혐오 정책은 인종/민족, 종교/신념을 포함한 광범위한 보호 받아야 할 특성을 기반으로 소외되거나 소외된 커뮤니티에 대한 증오, 비인간화, 저하 또는 경멸을 조장하거나 용인하는 콘텐츠 또는 행동을 금지합니다.
- 이러한 위반 사항 및 기타 커뮤니티 가이드라인 정책은 회원 신고 또는 AI 기반 도구를 통해 감지되어 사람에 의한 중재를 위해 신고됩니다.
불법 콘텐츠 신고에 대한 조치
Bumble 회원은 이용 약관, 커뮤니티 가이드라인 또는 법률을 위반할 수 있는 콘텐츠나 행동을 신고함으로써 Bumble의 안전에 중요한 역할을 합니다. 신속한 조치를 취하기 위해, 모든 회원은 불편하거나 안전하지 않다고 느끼는 사람을 차단 및 신고할 것 을 권장합니다. 회원이 Bumble에 무언가를 신고하면 어떻게 되는지에 대한 자세한 내용은 이 도움말을 참조하세요. 자동화된 도구와 사람이 하는 검토는 보고된 콘텐츠를 분석하여 적절한 조치를 결정합니다.
영국에서는 회원과 일반 대중이 Bumble의 이용 약관, 커뮤니티 가이드라인 또는 영국 법률을 위반한다고 생각되는 콘텐츠를 위반 유형이 명시되어 있는 당사의 신고 양식을 통해 신고할 수 있습니다. 이 양식은 Bumble이 OSA를 준수하는 모든 측면에 대해 불만을 제기하는 데에도 사용할 수 있습니다. 신고 양식을 통해 제출된 불법 콘텐츠 및 규정 미준수 불만 사항에 대한 모든 신고는 실제 사람인 중재자가 검토합니다.
신고된 콘텐츠가 당사 이용 약관, 커뮤니티 가이드라인 또는 법률에 위배된다고 판단되는 경우, 몇 가지 요인을 고려하여 페널티를 결정합니다. 예를 들어, 다음과 같은 조치를 취할 수 있습니다:
- 콘텐츠 삭제
- 경고 발행
- 일부 또는 모든 Bumble Inc. 앱에서 위반 회원을 차단
필요한 경우, 당사는 회원의 행위와 관련된 잠재적인 범죄 수사를 지원하기 위해 법 집행 기관과 협력할 수도 있습니다.
규정 미준수 불만 사항이 발견된 것으로 판단되면 관련 OSA 의무를 준수하기 위해 시스템 및 프로세스를 검토합니다.
예방 기술 사용
당사는 다음과 같은 고급 탐지 기술을 사용하여 위반 콘텐츠를 사전에 식별하고 삭제합니다.
- Private Detector™ - 유저가 확인하기 전에 노골적인 이미지를 자동으로 감지하고 흐리게 처리하여 원치 않는 성적 콘텐츠 ('사이버 플래싱‘ 이라고도 함) 를 방지하는 AI 기반 도구입니다. 사용자는 흐릿한 이미지를 확인하거나 바로 신고하도록 선택할 수 있습니다.
- Deception Detector™ - 기계 학습을 사용하여 인증되지 않은 프로필을 탐지합니다 (위의 사기 및 금융 범죄 섹션에서 자세한 내용을 참고하세요).
- CSAM 탐지 - 업계 표준 데이터베이스에 대한 자동 해시 매칭으로 구성된 탐지 기술 (위의 아동 성 착취 및 학대 섹션에서 자세한 정보를 참고하세요).
- AI 기반 탐지 및 텍스트 기반 기계 학습 모델을 통해 위반 콘텐츠로 의심되는 내용을 탐지하고 이관시킵니다.
- 스팸 방지 시스템 - 다양한 프로필, 기기 및 행동 데이터를 분석하여 의심스러운 행동 패턴을 감지하고 사기성 유저를 사전에 제거합니다.
당사의 모든 탐지 기술은 정확한 집행을 위해 실제 사람들로 이루어진 검증 팀과 함께 활용됩니다.