Online Safety Act: Så skyddar vi individer från olagligt innehåll

Säkerhet är högsta prioritet för oss på Bumble. För att minimera den tid som innehåll som strider mot våra Riktlinjer eller Villkor eller annat skadligt eller olagligt innehåll (kallat ”Innehåll som bryter mot reglerna”) ligger uppe på Bumble använder vi en kombination av:

• Automatiserade system: Dessa identifierar och vidtar i vissa fall omedelbara åtgärder mot Innehåll som bryter mot reglerna.
• Mänsklig moderering: För att säkerställa att eskalerade ärenden granskas i rätt sammanhang.
• Medlemsverktyg: Vi uppmuntrar alla våra medlemmar att använda våra verktyg i appen för att anmäla, blockera och ta bort matchningar med misstänkta konton.

Vi använder dessa åtgärder med ett särskilt fokus på vissa typer av Innehåll som bryter mot reglerna, inklusive (men inte begränsat till):

1. Terrorinnehåll

• Våra Riktlinjer om Terrorism och våldsam extremism förbjuder individer eller organisationer som hyllar, glorifierar, uppmuntrar eller stöder våldsamma, farliga eller terroristbaserade uppdrag från att finnas på appen.
• Vår automatiska textbaserade upptäckt märker nyckelord, fraser och beteendemönster som är förknippade med extremistiskt innehåll för mänsklig granskning.
• Dessutom kan foton och videor som laddas upp till appen genomgå både mänsklig och/eller automatiserad moderering i syfte att upptäcka bilder som innehåller skjutvapen, sprängämnen eller hatsymboler.
• Om denna kategori av Innehåll som bryter mot reglerna mot förmodan upptäcks kommer det snabbt att tas bort och medlemmens tillgång till Appen återkallas.

2. Innehåll med sexuellt utnyttjande eller misshandel av barn

• I enlighet med våra Villkor och Riktlinjer är Bumble uteslutande till för vuxna (18+), och vi har en nolltoleranspolicy mot alla former av sexuell exploatering och sexuella övergrepp mot barn.
• Alla medlemmar uppmanas att anmäla misstänkta minderåriga medlemmar med hjälp av de särskilda anledningarna till anmälan i vårt verktyg i appen.
• Vi använder ålderskontroller som är utformade för att upptäcka och återkalla åtkomst till appen för personer under 18 år, vilket avsevärt minskar risken för utnyttjande av barn.
• Vår proaktiva automatiska textbaserade upptäckt söker efter nyckelord och beteenden som tyder på minderåriga appanvändare, vilket också hjälper oss att upptäcka potentiella försök till grooming av barn.
• Vi använder även proaktiv teknik mot innehåll med sexuellt utnyttjande eller misshandel av barn som består av automatiserad hashmatchning mot branschens standarddatabaser för att identifiera och ta bort känt innehåll med sexuellt utnyttjande eller misshandel av barn. Bekräftat innehåll med sexuellt utnyttjande eller misshandel av barn leder till omedelbar borttagning och kontoblockering.

3. Bedrägeri och ekonomiska brott (inklusive kärleksbedrägerier)

• Våra Riktlinjer förbjuder bedrägerier och stölder som syftar till att bedra eller manipulera medlemmar för att komma över ekonomiska eller materiella medel. Vi förbjuder också falska profiler och förväntar oss att alla våra medlemmar representerar sig själva korrekt på sina profiler.
• Alla medlemmar uppmanas att anmäla misstänkta bedrägerier eller falska profiler med hjälp av de särskilda anledningarna till anmälan i vårt verktyg i appen.

• Vi använder en kombination av automatiserade och manuella kontroller för att upptäcka och avbryta bedräglig aktivitet, inklusive:
  • Deception Detector™ – Ett egenutvecklat AI-drivet system för upptäckt av bedrägerier som analyserar profildata, beteendemönster och kontoaktivitet för att upptäcka bedrägerier innan de inträffar. För att skapa en säker och stärkande community används denna teknik tillsammans med en särskild mänsklig supportgrupp.
  • Upptäckt av begäranden om pengar: AI- och sökordsbaserad skanning som märker och eskalerar begäranden om pengar för mänsklig granskning.
  • Foto- och videomoderering: Automatiserad och mänsklig granskning av bilder i syfte att upptäcka och eskalera bilder som innehåller kändisar, QR-koder eller text.
  • Dessutom analyserar vårt särskilda antispamteam profildata, fotons äkthet och beteendemönster kontinuerligt för att upptäcka bedrägliga användare.

• Profiler som märks som misstänkta blockeras omedelbart om bedrägligt beteende bekräftas eller måste genomgå ytterligare verifiering innan de återfår åtkomst till appen.

4. Annat innehåll som bryter mot reglerna

• Hot, övergrepp och trakasserier: Enligt vad som anges i policyn om Mobbning och kränkande beteende i våra Riktlinjer tillåter vi inte innehåll eller beteende som får någon individ eller grupp att känna sig trakasserad, mobbad eller utsatt.
• Hatretorik och skadlig felaktig information: Vår policy om Identitetsbaserat hat förbjuder innehåll eller beteende som främjar eller uppmuntrar hat, avhumanisering, förnedring eller förakt mot marginaliserade eller minoritiserade grupper baserat på ett brett spektrum av skyddade egenskaper, inklusive ras/etnicitet och religion/trosuppfattning.
• Överträdelser av dessa och andra policyer i våra Riktlinjer upptäcks genom anmälan från medlemmar eller AI-baserade verktyg och märks för mänsklig moderering.

Åtgärder vid anmälan om olagligt innehåll

Våra medlemmar spelar en avgörande roll för säkerheten på Bumble genom att anmäla innehåll eller beteende som kan bryta mot våra Villkor, Riktlinjer eller lagen. För att säkerställa snabbt agerande uppmanar vi alla medlemmar att Blockera och anmäla alla som får dem att känna sig obekväma eller otrygga. Se denna artikel för mer information om vad som händer när en medlem anmäler något till Bumble. Automatiserade verktyg och mänskliga granskare analyserar anmält innehåll för att avgöra lämplig åtgärd.

I Storbritannien kan våra medlemmar och allmänheten även anmäla allt innehåll på Bumble som de anser bryter mot våra Villkor, våra Riktlinjer eller brittisk lag via vårt Anmälningsformulär och ange vilken typ av överträdelse det rör sig om. Detta formulär kan också användas för att lämna in ett klagomål om någon aspekt av Bumbles efterlevnad av OSA. Alla rapporter om olagligt innehåll och klagomål om bristande efterlevnad som skickas in via anmälningsformuläret granskas av mänskliga moderatorer.

Om vi fastställer att anmält innehåll bryter mot våra Villkor, Riktlinjer eller lagen avgörs påföljden av flera faktorer. Vi kan till exempel

• ta bort innehållet
• utfärda en varning
• blockera den ansvariga medlemmen från vissa eller alla Bumble Inc.-appar.

Vid behov kan vi också samarbeta med brottsbekämpande myndigheter för att bistå i eventuella brottsutredningar relaterade till medlemmars beteende.

Om vi fastställer att ett klagomål om bristande efterlevnad är befogat granskar vi våra system och processer för att säkerställa att vi uppfyller de relevanta skyldigheterna enligt OSA.

Användning av proaktiv teknik

Vi använder avancerad detekteringsteknik för att identifiera och ta bort innehåll som bryter mot reglerna på ett proaktivt sätt, inklusive:

• Private Detector™ – Ett AI-drivet verktyg som automatiskt upptäcker och suddar ut explicita bilder innan de når användarna i syfte att förhindra oönskat sexuellt innehåll (även känt som cyberflashing). Användarna kan välja att visa eller anmäla suddiga bilder direkt.
• Deception Detector™ – Använder maskininlärning för att upptäcka falska profiler (läs mer i avsnittet om Bedrägeri och ekonomiska brott ovan).
• Detektering av innehåll med sexuellt utnyttjande eller misshandel av barn – Detekteringsteknik som består av automatiserad hashmatchning mot branschens standarddatabaser (se mer information i avsnittet om Innehåll med sexuellt utnyttjande eller misshandel av barn ovan).
• AI-baserad upptäckt och textbaserade maskininlärningsmodeller som identifierar och eskalerar innehåll som misstänks bryta mot reglerna.
• Antispamsystem: Analyserar ett brett spektrum av profil-, enhets- och beteendedata för att upptäcka mönster av misstänkt beteende och ta bort bedrägliga användare på ett proaktivt sätt.

I syfte att säkerställa korrekt utförande arbetar alla våra detektionstekniker tillsammans med mänskliga verifieringsteam.