Veiligheid staat bij Bumble voorop. Om te zorgen dat content die mogelijk in strijd is met onze Richtlijnen, Algemene voorwaarden of anderszins schadelijke of onrechtmatige content op Bumble (aangeduid als 'Schendende content') zo kort mogelijk in de app staat, gebruiken we een combinatie van:
- Geautomatiseerde systemen: Systemen die schendende content in realtime vaststellen en in sommige gevallen hiertegen actie ondernemen.
- Moderatie door mensen: om ervoor te zorgen dat gemelde gevallen in de juiste context worden beoordeeld.
- Controles voor leden: We raden al onze leden aan om onze in-apptools te gebruiken om verdachte accounts te melden, blokkeren en te ontmatchen.
We zetten deze maatregelen in met een specifieke focus op bepaalde soorten content die inbreuk maken op het auteursrecht, waaronder (maar niet beperkt tot):
1. Terroristische content
- Onze communityrichtlijnen inzake terrorisme en gewelddadig extremisme verbieden personen of organisaties die gewelddadige, gevaarlijke of terroristische missies verkondigen, verheerlijken, goedkeuren of ondersteunen, om aanwezig te zijn op de app.
- Onze geautomatiseerde, op tekst gebaseerde detectie markeert trefwoorden, zinnen en gedragspatronen die verband houden met extremistische content, zodat deze vervolgens door mensen kunnen worden beoordeeld.
- Daarnaast kunnen foto's en video's die op de app worden geüpload door zowel mensen als geautomatiseerde moderatie worden gecontroleerd. Zo worden afbeeldingen gedetecteerd met vuurwapens, explosieven of haatsymbolen.
- In het onwaarschijnlijke geval dat er schendende content in deze categorie wordt vastgesteld, wordt de content snel verwijderd en de toegang van het lid tot de app stopgezet.
2. Content over seksuele uitbuiting en misbruik van kinderen
- Zoals vermeld in onze Algemene voorwaarden en communityrichtlijnen, is Bumble uitsluitend voor volwassenen (18+) en hanteren we een nultolerantiebeleid ten aanzien van elke vorm van seksuele uitbuiting en misbruik van kinderen.
- We raden al onze leden aan om verdachte minderjarige leden te melden. Gebruik hiervoor onze in-apptool, waar je een specifieke reden voor je melding kunt geven.
- We maken gebruik van maatregelen om leeftijd vast te stellen, zodat we gebruik van de app door personen jonger dan 18 jaar kunnen detecteren en stopzetten. Zo verkleinen we het risico op uitbuiting van kinderen aanzienlijk.
- Met onze proactieve, geautomatiseerde, op tekst gebaseerde detectie wordt gezocht naar trefwoorden en gedragsindicatoren van minderjarige gebruikers van de app. Zo kunnen we ook mogelijke pogingen tot kinderlokking detecteren.
- We maken ook gebruik van proactieve detectietechnologie voor content die seksueel misbruik van kinderen bevat, bestaande uit geautomatiseerde hashmatching met databases die voldoen aan de industriestandaard, om content met seksueel misbruik van kinderen (CSAM) te identificeren en te verwijderen. Bij bevestigde content die seksueel misbruik van kinderen bevat, wordt het account onmiddellijk verwijderd en geblokkeerd.
3. Fraude en financiële delicten (inclusief 'liefdesfraude')
- Onze Richtlijnen verbieden alle vormen van oplichting of diefstal die bedoeld zijn om leden financieel of materieel te bestelen of manipuleren. We verbieden bovendien onechte profielen en verwachten van al onze leden dat ze zichzelf op hun profiel realistisch weergeven.
- We raden al onze leden aan om vermoedens van oplichting of nepprofielen te melden via onze in-apptool, waar je een specifieke reden voor je melding kunt geven.
-
We maken gebruik van een combinatie van geautomatiseerde en handmatige controles om frauduleuze activiteiten te detecteren en te verwijderen, waaronder:
- Deception Detector™: Een gepatenteerd AI-gestuurd fraudedetectiesysteem dat profielgegevens, interactiepatronen en accountactiviteiten analyseert om proactief misleiding te detecteren voordat er oplichting plaatsvindt. Deze technologie wordt gebruikt in combinatie met gespecialiseerde menselijke ondersteuning, zodat we een veilige en inspirerende community kunnen behouden.
- Detectie van financiële aansporing: Scant berichten met financiële aansporing op basis van AI en trefwoorden en markeert content die vervolgens door mensen wordt gecontroleerd.
- Moderatie van foto's en video's: Geautomatiseerde en menselijke beoordeling om afbeeldingen met beroemdheden, QR-codes of tekst te detecteren en te beoordelen.
- Daarnaast analyseert ons gespecialiseerde Anti-spamteam doorlopend profielgegevens, foto-authenticiteit en gedragspatronen om frauduleuze gebruikers te detecteren.
- Als verdacht gemarkeerde profielen worden direct geblokkeerd als frauduleus gedrag wordt bevestigd. Ook moeten er aanvullende verificaties worden uitgevoerd voordat deze accounts weer toegang krijgen tot de app.
4. Andere content die inbreuk maakt op het auteursrecht
- Bedreigingen, misbruik en intimidatie: Zoals vermeld in het Beleid inzake pesten en aanstootgevend gedrag in onze Richtlijnen: we staan geen content of gedrag toe waardoor een individu of groep zich geïntimideerd, gepest of doelwit voelt.
- Haatzaaierij en schadelijke desinformatie: Ons Beleid tegen identiteitsgebaseerde haat verbiedt content die of gedrag dat haat, ontmenselijking, vernedering of minachting jegens gemarginaliseerde of tot minderheidsgroepen behorende community's stimuleert of goedkeurt op basis van een breed scala aan beschermde kenmerken, waaronder ras/etniciteit en religie/geloof.
- Inbreuken op deze en onze andere Richtlijnen worden gedetecteerd via ledenrapporten of AI-gestuurde hulpmiddelen en gemarkeerd voor menselijke moderatie.
Ons handelen naar aanleiding van meldingen van illegale content
Onze leden spelen een belangrijke rol in de veiligheid op Bumble door content of gedrag te melden die of dat mogelijk in strijd is met onze Gebruiksvoorwaarden, Richtlijnen of de wet. Om snel te kunnen handelen, moedigen we alle leden aan om iederen die hen een ongemakkelijk of onveilig gevoel geeft te Blokkeren en melden. Bekijk dit artikel voor meer informatie over wat er gebeurt als leden iemand melden op Bumble. Geautomatiseerde hulpmiddelen en menselijke beoordelaars analyseren gemelde content om de juiste actie te kunnen ondernemen.
In het Verenigd Koninkrijk kunnen onze leden en het publiek ook alle inhoud op Bumble melden waarvan ze denken dat deze in strijd is met onze Gebruiksvoorwaarden, onze Richtlijnen of de Britse wetgeving via het Meldingsformulier , waarin je het type overtreding kunt aangeven. Je kunt dit formulier ook gebruiken om een klacht in te dienen over Bumble's naleving van de OSA. Alle meldingen van illegale content en klachten over niet-naleving die via het meldingsformulier worden ingediend, worden door menselijke moderators beoordeeld.
Als we vaststellen dat de gerapporteerde content onze Gebruiksvoorwaarden overtreedt, Op basis van de Richtlijnen of de wet, bepalen we de gepaste actie op basis van verschillende factoren. We kunnen besluiten tot de volgende maatregelen:
- De content verwijderen.
- Een waarschuwing geven.
- Het overtredende lid verbannen van sommige of alle apps van Bumble Inc.
Indien nodig werken we ook samen met de wetshandhaving om te helpen bij mogelijke strafrechtelijke onderzoeken met betrekking tot het gedrag van leden.
Als we vaststellen dat een klacht over niet-naleving gegrond is, gaan we onze systemen en processen herzien om ervoor te zorgen dat deze voldoen aan de relevante OSA-verplichtingen.
Gebruik van proactieve technologie
We maken gebruik van geavanceerde detectietechnologieën om schendende content proactief te identificeren en te verwijderen, waaronder:
- Private Detector™: Een tool op basis van AI die automatisch expliciete afbeeldingen detecteert en vervaagt voordat ze aan gebruikers worden weergegeven, om ongewenste seksuele content ('cyberflashing') te voorkomen. Gebruikers kunnen er zelf voor kiezen om onscherpe beelden te bekijken of direct te melden.
- Deception Detector™: Deze tool maakt gebruik van machine learning om onechte profielen te detecteren (zie voor meer informatie het gedeelte over fraude en financiële delicten hierboven).
- CSAM-detectie: een detectietechnologie die bestaat uit geautomatiseerde hashmatching met databases die voldoen aan de industriestandaard (zie voor meer informatie het gedeelte over seksuele uitbuiting en misbruik van kinderen hierboven).
- Detectie op basis van AI en op tekst gebaseerde modellen voor machine learning die vermoedelijk schendende content detecteren en escaleren.
- Antispamsystemen: Systemen die een breed scala aan profiel-, apparaat- en gedragsgegevens analyseren om patronen van verdacht gedrag te detecteren en frauduleuze gebruikers proactief te verwijderen.
Al onze detectietechnologieën werken in combinatie met menselijke verificatieteams om een nauwkeurige handhaving te garanderen.