Sikkerhed er en topprioritet hos Bumble. For at minimere den tid, hvor indhold, der kan være i strid med vores Fællesskabsretningslinjer, Vilkår og betingelser eller på anden måde skadelige eller ulovlige oplysninger på Bumble (benævnt "Krænkende indhold"), anvender vi en kombination af:
- Automatiserede systemer – disse identificerer og i nogle tilfælde griber ind over for krænkende indhold i realtid.
- Menneskestyret moderation – for at sikre, at eskalerede sager gennemgås med den relevante kontekst.
- Medlemskontroller – vi opfordrer alle vores medlemmer til at bruge vores værktøjer i appen til at anmelde, blokere og fjerne match fra mistænkelige konti.
Vi bruger disse foranstaltninger med særligt fokus på visse typer krænkende indhold, herunder (men ikke begrænset til):
1. Terroristisk indhold
- Vores retningslinjer for fællesskabet om terrorisme og voldelig ekstremisme forbyder enkeltpersoner eller organisationer, der proklamerer, glorificerer, tolererer eller støtter voldelige, farlige eller terrorbaserede missioner, at være til stede på appen.
- Vores automatiserede tekstbaserede detektion markerer søgeord, sætninger og adfærdsmønstre forbundet med ekstremistisk indhold til menneskelig gennemgang.
- Derudover kan billeder og videoer, der uploades til appen, gennemgå både menneskelig og/eller automatisk moderation for at registrere billeder, der indeholder skydevåben, sprængstoffer eller hadefulde symboler.
- I det usandsynlige tilfælde, at det konstateres, at der foreligger krænkende indhold i denne kategori, vil det hurtigt blive fjernet, og medlemmets adgang til appen vil blive blokeret.
2. Indhold om seksuel udnyttelse og misbrug af børn (CSEA)
- I henhold til vores vilkår og betingelser og retningslinjer for fællesskabet er Bumble udelukkende for voksne (18+), og vi har en nultolerancepolitik over for enhver form for seksuel udnyttelse og misbrug af børn.
- Alle medlemmer opfordres til at anmelde mindreårige medlemmer ved hjælp af de specifikke anmeldelsesårsager i vores værktøj i appen.
- Vi implementerer foranstaltninger for alderssikring, der er designet til at opdage og blokere adgang til appen for personer under 18 år, hvilket reducerer risikoen for udnyttelse af børn betydeligt.
- Vores proaktive, automatiserede tekstbaserede detektion scanner efter søgeord og adfærdsindikatorer hos mindreårige brugere i appen, hvilket også hjælper os med at opdage potentielle forsøg på grooming af børn.
- Vi anvender også proaktiv teknologi til detektion af materiale med seksuelt misbrug af børn (CSAM), der består af automatiseret hash-matchning mod branchestandarddatabaser for at identificere og fjerne kendt materiale med seksuelt misbrug af børn. Bekræftet materiale med seksuelt misbrug af børn resulterer i øjeblikkelig fjernelse og blokering af konto.
3. Svindel og økonomiske lovovertrædelser (herunder "Romantisk svindel")
- Vores Fællesskabsretningslinjer forbyder enhver form for svindel eller tyveriaktivitet, der har til formål at bedrage eller manipulere medlemmer til at afgive økonomiske eller materielle ressourcer. Vi forbyder også uægte profiler og forventer, at alle vores medlemmer repræsenterer sig selv korrekt på deres profil.
- Alle medlemmer opfordres til at anmelde enhver mistanke om svindel eller falske profiler ved hjælp af de specifikke anmeldelsesårsager i vores værktøj i appen.
-
Vi anvender en kombination af automatiserede og manuelle kontroller for at opdage og fjerne svigagtig aktivitet, herunder:
- Deception Detector™ – et proprietært AI-drevet system til svindeldetektering, der analyserer profildata, engagementsmønstre og kontoaktivitet for proaktivt at opdage bedrag, før der opstår svindel. Denne teknologi bruges sammen med dedikeret menneskelig støtte til at prioritere et sikkert og styrkende fællesskab.
- Detektion af finansielle henvendelser – AI-drevet og søgeordsscanning markerer og eskaleres til menneskelig gennemgang af meddelelser om finansielle henvendelser.
- Billede- og videomoderation: automatiseret og menneskelig billedgennemgang for at opdage og eskalere billeder, der indeholder kendte personer, QR-koder eller tekst.
- Derudover analyserer vores dedikerede anti-spam-team løbende profildata, billedautencitet og adfærdsmønstre for at opdage svigagtige brugere.
- Profiler, der markeres som mistænkelige, blokeres enten øjeblikkeligt, hvis svigagtig adfærd bekræftes, eller det kræves, at der foretages yderligere verifikation, før adgang til appen genoprettes.
4. Andet krænkende indhold
- Trusler, misbrug og chikane – som angivet i vores Fællesskabsretningslinjer om mobning og krænkende adfærd tillader vi ikke indhold eller adfærd, der får enkeltpersoner eller grupper til at føle sig chikaneret, mobbet eller målrettet.
- Hadefuld tale og skadelig misinformation – vores politik om identitetsbaseret had forbyder indhold eller adfærd, der fremmer eller tolererer had, dehumanisering, nedværdigelse eller foragt mod marginaliserede eller minoritetsfællesskaber baseret på en bred vifte af beskyttede egenskaber, herunder race/etnicitet og religion/tro.
- Brud på disse og vores andre Fællesskabsretningslinjer registreres via medlemsanmeldelser eller AI-drevne værktøjer og markeres til menneskelig moderation.
Handling på baggrund af anmeldelser om ulovligt indhold
Vores medlemmer spiller en afgørende rolle i Bumbles sikkerhed ved at anmelde indhold eller adfærd, der kan overtræde vores brugsbetingelser, Fællesskabsretningslinjer eller loven. For at sikre hurtig handling opfordrer vi alle medlemmer til at bruge Blokér og anmeld for enhver, der får dem til at føle sig utilpasse eller utrygge. Se denne artikel for at få mere information om, hvad der sker, når medlemmer anmelder noget til Bumble. Automatiserede værktøjer og menneskelige moderatorer analyserer anmeldt indhold for at bestemme den passende handling.
I Storbritannien kan vores medlemmer og offentligheden også anmelde enhver type indhold på Bumble, som de mener overtræder vores brugsbetingelser, vores Fællesskabsretningslinjer eller britisk lov via vores Anmeldelsesformular, der beskriver type af overtrædelse. Denne formular kan også bruges til at indgive en klage over ethvert aspekt af Bumbles compliance med OSA. Alle anmeldelser om ulovligt indhold og klager over manglende compliance, der indsendes via formularen, gennemgås af menneskelige moderatorer.
Hvis vi fastslår, at anmeldt indhold overtræder vores brugsbetingelser, Fællesskabsretningslinjer eller loven, bestemmer vi handlingen ved at overveje flere faktorer. For eksempel kan vi:
- Fjerne indholdet
- Udstede en advarsel
- Udelukke det krænkende medlem fra nogle eller alle Bumble Inc.-apps
Når det er nødvendigt, kan vi også samarbejde med retshåndhævende myndigheder for at bistå i potentielle strafferetlige efterforskninger relateret til medlemmers adfærd.
Hvis vi fastslår, at en klage over non-compliance var berettiget, vil vi gennemgå vores systemer og processer for at sikre compliance af de relevante OSA-forpligtelser.
Brug af proaktiv teknologi
Vi anvender avancerede detektionsteknologier til proaktivt at identificere og fjerne krænkende indhold, herunder:
- Private Detector™ – et AI-drevet værktøj, der automatisk registrerer og slører eksplicitte billeder, før de når brugerne, for at forhindre uønsket seksuelt indhold (også kendt som "cyberflashing"). Brugere kan vælge at se eller anmelde slørede billeder med det samme.
- Deception Detector™ – bruger maskinlæring til at detektere uægte profiler (se mere information i afsnittet om bedrageri og økonomiske lovovertrædelser ovenfor).
- CSAM-detektion – detektionsteknologi bestående af automatiseret hash-matchning mod branchestandarddatabaser (se yderligere oplysninger i afsnittet om seksuel udnyttelse og misbrug af børn ovenfor).
- AI-drevet detektion og tekstbaserede maskinlæringsmodeller, der registrerer og eskalerer mistænkt krænkende indhold.
- Anti-spam-systemer – analyserer en bred vifte af profil-, enheds- og adfærdsdata for at opdage mønstre af mistænkelig adfærd og proaktivt fjerne svigagtige brugere.
Alle vores detektionsteknologier fungerer sammen med menneskelige team til verificering for at sikre præcis håndhævelse.