Sikkerhet er en viktig prioritet hos Bumble. For å minimere innhold som kan være i strid med vår retningslinjer, vilkår og betingelser, eller på annen måte at skadelig innhold opptrer på Bumble (referert til som «brudd på innhold»), bruker vi en kombinasjon av:
- Automatiserte systemer – disse identifiserer og, i noen tilfeller, iverksetter tiltak mot krenkende innhold i sanntid.
- Menneskestyrt moderering – for å sikre at skallerte saker blir gjennomgått med passende kontekst.
- Medlemskontroller – vi oppfordrer alle medlemmene våre til å bruke verktøyene våre i appen for å rapportere, blokkere og fjerne mistenkelige kontoer.
Vi bruker disse tiltakene med særlig fokus på visse typer krenkende innhold, inkludert (men ikke begrenset til):
1. Terroristisk innhold
- Våre retningslinjer om terrorisme og voldelig ekstremisme forbyr enkeltpersoner eller organisasjoner som proklamerer, glorifiserer, tolererer eller støtter voldelige, farlige eller terrorbaserte oppdrag å være tilstede i appen.
- Vår automatiserte tekstbaserte funksjon markerer nøkkelord, fraser og atferdsmønstre knyttet til ekstremistisk innhold for menneskelig gjennomgang.
- I tillegg kan bilder og videoer som lastes opp til appen gjennomgå både menneskelig og/eller automatisk moderering for å oppdage bilder som inneholder skytevåpen, eksplosiver eller hatsymboler.
- I det usannsynlige tilfellet at det oppdages brudd på innholdet i denne kategorien, vil det raskt bli fjernet og medlemmets tilgang til appen blir fjernet.
2. Innhold om seksuell utnyttelse og misbruk av barn (CSEA)
- I henhold til våre vilkår og betingelser og retningslinjer er Bumble utelukkende for voksne (18+), og vi har nulltoleranse for enhver form for seksuell utnyttelse og misbruk av barn.
- Alle medlemmer oppfordres til å rapportere mistenkte mindreårige medlemmer ved å bruke de spesifikke rapporteringene i appen.
- Vi bruker tiltak for å sikre alder som er utformet for å oppdage og tilbakekalle tilgangen til appen for personer under 18 år, noe som reduserer risikoen for utnyttelse av barn betydelig.
- Vår proaktive automatiserte tekstbaserte funksjon skanner etter nøkkelord og atferdsindikatorer for mindreårige brukere i appen, noe som også hjelper oss med å oppdage «grooming» av barn.
- Vi bruker også proaktiv teknologi for å oppdage materiale med seksuelt misbruk av barn (CSAM), som består av automatisert hash-matching mot bransjedatabaser for å identifisere og fjerne kjent materiale med seksuelt misbruk av barn. Bekreftet materiale med seksuelt misbruk av barn resulterer i umiddelbar fjerning og kontoblokkering.
3. Svindel og økonomiske lovbrudd (inkludert «kjærlighetssvindel»)
- Våre retningslinjer forbyr enhver svindelaktivitet som har som mål å bedra eller manipulere medlemmer for økonomiske eller materielle ressurser. Vi forbyr også falske profiler og forventer at alle medlemmene våre representerer seg selv nøyaktig på profilen sin.
- Alle medlemmer oppfordres til å rapportere mistenkt svindel eller falske profiler ved å bruke de spesifikke rapporteringene i appen.
-
Vi bruker en kombinasjon av automatiserte og manuelle kontroller for å oppdage og fjerne svindelaktivitet, inkludert:
- Deception Detector™ – et proprietært AI-drevet system for svindeldeteksjon som analyserer profildata, engasjementsmønstre og kontoaktivitet for proaktivt å oppdage bedrag før svindel oppstår. Denne teknologien brukes sammen med dedikert menneskelig støtte for å sørge for en trygg plattform.
- Deteksjon av økonomiske forespørsler – AI-drevet nøkkelordskanning flagger for menneskelig gjennomgang av meldinger om økonomiske forespørsler.
- Foto- og videomoderering: automatisert og menneskelig bildegjennomgang for å oppdage bilder som inneholder kjendiser, QR-koder eller tekst.
- I tillegg analyserer vårt dedikerte antispam-team kontinuerlig profildata, fotoautentisitet og atferdsmønstre for å oppdage svindelbrukere.
- Profiler som er flagget som mistenkelige, blokkeres enten umiddelbart hvis uredelig oppførsel bekreftes, eller det kreves at man fullfører ytterligere verifisering før man får tilgang til appen igjen.
4. Annet krenkende innhold
- Trusler, misbruk og trakassering – som angitt i våre retningslinjer vedrørende mobbing og krenkende oppførsel, tillater vi ikke innhold eller oppførsel som får enkeltpersoner eller grupper til å føle seg trakassert, mobbet eller målrettet.
- Hatefulle ytringer og skadelig feilinformasjon – vår policy mot identitetsbasert hat forbyr innhold eller atferd som fremmer eller tolererer hat, dehumanisering, fornedrelse eller forakt mot minoritetsgrupper basert på et bredt spekter av beskyttede egenskaper, inkludert rase/etnisitet og religion/tro.
- Brudd på disse, og våre andre retningslinjer oppdages gjennom medlemsrapporter eller AI-drevne verktøy og flagges for menneskelig moderering.
Handling på rapporter om ulovlig innhold
Medlemmene våre spiller en kritisk rolle i sikkerheten til Bumble ved å rapportere innhold eller oppførsel som kan bryte våre vilkår, retningslinjer eller loven. For å sikre rask handling oppfordrer vi alle medlemmer til å bruke funksjonen Blokker og rapporter på alle som får dem til å føle seg ukomfortable eller utrygge. Se denne artikkelen for mer informasjon om hva som skjer når medlemmer rapporterer noe til Bumble. Automatiserte verktøy og menneskelige moderatorer analyserer rapportert innhold for å finne passende tiltak.
I Storbritannia kan medlemmer og allmennheten også rapportere innhold på Bumble som de mener bryter med våre vilkår, våre retningslinjer eller britisk lov via vårt rapporteringsskjema. Dette skjemaet kan også brukes til å klage på Bumbles overholdelse av OSA. Alle rapporter om ulovlig innhold og klager over manglende overholdelse som sendes inn via skjemaet, gjennomgås av menneskelige moderatorer.
Hvis vi fastslår at rapportert innhold bryter med våre vilkår, retningslinjer, eller loven, bestemmer vi straffen ved å vurdere flere faktorer. For eksempel kan vi:
- Fjerne innholdet
- Utstede en advarsel
- Utestenge medlemmet fra noen eller alle Bumble Inc.-apper
Når det er nødvendig, kan vi også samarbeide med politiet/retten for å bistå i potensielle kriminelle etterforskninger knyttet til medlemmers oppførsel.
Hvis vi fastslår at en klage om manglende overholdelse var berettiget, vil vi gjennomgå systemene og prosessene våre for å sikre samsvar med de relevante OSA-forpliktelsene.
Bruk av proaktiv teknologi
Vi bruker avanserte deteksjonsteknologier for å identifisere og fjerne krenkende innhold proaktivt, inkludert:
- Private Detector™ – et AI-drevet verktøy som automatisk oppdager og gjør utfordrende bilder uskarpe før de når brukerne, for å forhindre uønsket seksuelt innhold (også kjent som «cyberflashing»). Brukere kan velge å se eller rapportere slike bilder umiddelbart.
- Deception Detector™ – bruker maskinlæring til å oppdage falske profiler (se mer informasjon i avsnittet om svindel og økonomiske lovbrudd ovenfor).
- CSAM-deteksjon – deteksjonsteknologi som består av automatisert hash-matching mot bransjedatabaser (se mer informasjon i avsnittet om seksuell utnyttelse og misbruk av barn ovenfor).
- AI-drevet deteksjon og tekstbaserte maskinlæringsmodeller som oppdager mistenkt krenkende innhold.
- Antispam-systemer – analyserer et bredt spekter av profil-, enhets- og atferdsdata for å oppdage mønstre av mistenkelig atferd og proaktivt fjerne uredelige brukere.
Alle våre deteksjonsteknologier opererer sammen med menneskelige moderatorer for å sikre nøyaktig håndheving.