Su Bumble, la sicurezza è la nostra massima priorità. Per ridurre al minimo il tempo di permanenza sulla piattaforma di contenuti che potrebbero violare il nostro Regolamento e Condizioni di utilizzo o che siano comunque dannosi o illegali su Bumble (definiti "Contenuti illeciti"), utilizziamo una combinazione di:
- Sistemi automatizzati per identificare e, in alcuni casi, adottare misure in tempo reale contro i contenuti illeciti.
- Moderatori umani per garantire che i casi segnalati vengano esaminati nel contesto appropriato.
- Segnalazioni degli utenti. Invitiamo tutti i membri della nostra community a utilizzare gli strumenti all'interno dell'app per segnalare, bloccare o rimuovere gli account sospetti.
Utilizziamo queste misure per intervenire in particolar modo su determinati tipi di contenuti illeciti, inclusi (ma non limitati a):
1. Contenuti relativi al terrorismo
- Le sezioni del nostro Regolamento relative a terrorismo ed estremismo violento vietano la presenza sull'app di individui o gruppi che promuovono, incitano, tollerano o sostengono missioni violente, pericolose o a sfondo terroristico.
- Il nostro sistema di rilevamento automatico analizza i testi per individuare parole chiave, frasi o modelli comportamentali riconducibili a contenuti estremisti, che vengono poi esaminati da moderatori umani.
- Inoltre, foto e video caricati sull'app possono essere sottoposti a processi di moderazione, sia automatizzata che umana, per individuare la presenza di armi da fuoco, esplosivi o simboli d'odio.
- Nel raro caso in cui venisse accertata la presenza di contenuti Illeciti di questa categoria, procederemo alla loro immediata rimozione e alla revoca dell'accesso dell'utente all'app.
2. Contenuti relativi allo sfruttamento e all'abuso sessuale sui minori
- Ai sensi delle nostre Condizioni di utilizzo e del Regolamento, l'uso di Bumble è riservato esclusivamente agli utenti maggiorenni (18+) e adotta una politica di tolleranza zero nei confronti di qualsiasi forma di sfruttamento e abuso sessuale sui minori.
- Tutti gli utenti sono invitati a segnalare eventuali sospetti relativi alla presenza di minori sulla piattaforma, utilizzando gli appositi strumenti di segnalazione disponibili nell'app.
- Adottiamo misure di verifica dell'età volte a individuare e revocare l’accesso all'app a chiunque abbia meno di 18 anni, riducendo in modo significativo il rischio di sfruttamento minorile.
- Il nostro sistema proattivo di rilevamento automatico analizza i testi per individuare parole chiave e modelli comportamentali riconducibili alla presenza di utenti minorenni sull'app, contribuendo anche a individuare potenziali tentativi di adescamento.
- Utilizziamo anche una tecnologia per il rilevamento di materiale pedopornografico (CSAM), basata su un sistema automatico di hash-matching che confronta i contenuti con database di riferimento del settore. Nel caso in cui venisse accertata la presenza di materiali in questa categoria, procederemo alla loro immediata rimozione e al blocco dell'account.
3. Frodi e reati finanziari (incluse le "truffe sentimentali")
- Il nostro Regolamento vieta qualsiasi attività fraudolenta o ingannevole finalizzata a sottrarre risorse economiche o materiali agli utenti. Inoltre, è severamente vietato l'uso di profili falsi ed è necessario fornire informazioni veritiere in merito alla propria identità.
- Tutti gli utenti sono invitati a segnalare eventuali sospetti relativi a truffe e profili falsi sulla piattaforma, utilizzando gli appositi strumenti di segnalazione disponibili nell'app.
-
Utilizziamo una combinazione di controlli automatici e manuali per individuare e contrastare le attività fraudolente, tra cui:
- Deception Detector™: il nostro sistema proprietario di rilevamento delle frodi potenziato dall'IA, capace di analizzare i dati del profilo, i modelli di interazione e l'attività dell'account, al fine di individuare e prevenire le truffe prima che si verifichino. Questa tecnologia viene supportata da un team dedicato di moderatori umani, per garantire la sicurezza della nostra community.
- Rilevatore di richieste di natura economica: un sistema basato sull'IA progettato per individuare parole chiave sospette e inoltrare al team di moderatori umani i messaggi contenenti richieste di denaro.
- Moderazione di foto e video: revisione automatica e umana dei contenuti multimediali per individuare e segnalare immagini che contengono celebrità, codici QR o testo.
- Inoltre, il nostro team Antispam dedicato analizza costantemente i dati del profilo, l'autenticità delle foto e i modelli comportamentali per identificare utenti sospetti.
- Nel caso in cui venissero accertate attività fraudolente, i profili segnalati verranno bloccati immediatamente oppure invitati a completare una verifica aggiuntiva prima di poter accedere nuovamente all'app.
4. Altri contenuti illeciti
- Minacce, abusi e molestie: come riportato nella sezione "Bullismo e atteggiamenti offensivi" del nostro Regolamento, non consentiamo contenuti o comportamenti che facciano sentire qualsiasi individuo o gruppo discriminato, vittima di bullismo o preso di mira.
- Incitamento all'odio e notizie false o dannose: il nostro regolamento relativo all'odio basato sull'identità vieta contenuti o comportamenti che promuovano o giustifichino odio, disumanizzazione, umiliazione o disprezzo verso comunità marginalizzate o minoritarie, basandosi su una vasta gamma di caratteristiche protette, inclusi etnia e credo religioso.
- Le violazioni di questa e di altre sezioni del nostro Regolamento vengono rilevate tramite le segnalazioni dei membri o mediante strumenti basati sull'IA, e successivamente inoltrate al team di moderatori umani.
Come segnalare i contenuti illegali
I nostri utenti svolgono un ruolo fondamentale per la sicurezza di Bumble, segnalando contenuti e comportamenti che potrebbero violare le Condizioni di utilizzo e il Regolamento di Bumble, o la legge stessa. Per garantire un intervento rapido, invitiamo tutti i membri a utilizzare la funzione "blocca e segnala" nel caso in cui un utente li faccia sentire a disagio o non al sicuro. Per maggiori informazioni su cosa succede quando invii una segnalazione su Bumble, leggi questo articolo. Gli strumenti automatizzati e i revisori umani analizzano i contenuti segnalati per adottare le misure appropriate.
Nel Regno Unito, i nostri membri e i privati cittadini possono inoltre segnalare qualsiasi contenuto su Bumble che ritengono possa violare le nostre Condizioni di utilizzo, il nostro Regolamento o la legge del Regno Unito tramite il nostro Modulo di segnalazione , specificando il tipo di violazione. Questo modulo può essere utilizzato anche per sporgere reclamo riguardo a qualsiasi aspetto della conformità di Bumble all'OSA. Tutte le segnalazioni di contenuti illegali e i reclami di non conformità inviati tramite il modulo di segnalazione vengono esaminati da moderatori umani.
Se determiniamo che il contenuto segnalato viola le nostre Condizioni di utilizzo, il nostro Regolamento o la legge stessa, stabiliamo quali provvedimenti adottare sulla base di diversi fattori. Ad esempio, potremmo:
- Rimuovere il contenuto
- Inviare un avvertimento
- Espellere l'utente che ha commesso la violazione da alcune o da tutte le app di Bumble Inc.
Se necessario, potremmo anche collaborare con le forze dell'ordine per supportare eventuali indagini penali legate alla condotta dei membri.
Qualora venga stabilito che un reclamo di non conformità è fondato, esamineremo i nostri sistemi e processi per garantire il pieno rispetto degli obblighi previsti dall'OSA.
Uso della tecnologia proattiva
Utilizziamo tecnologie di rilevamento avanzate per identificare e rimuovere proattivamente i contenuti illeciti, tra cui:
- Private Detector™: uno strumento basato sull'IA, in grado di rilevare e sfocare automaticamente le immagini esplicite prima che vengano ricevute dagli utenti, al fine di prevenire la visione di contenuti sessuali indesiderati (noti anche come "cyberflashing"). In questo modo, gli utenti sono liberi di scegliere se visualizzare l'immagine sfocata o segnalarla immediatamente.
- Deception Detector™: uno strumento basato sulle tecnologie di machine learning, in grado di individuare i profili non autentici (per maggiori informazioni, consulta la sezione precedente su Frodi e reati finanziari).
- Rilevamento di contenuti pedopornografici (CSAM): una tecnologia di rilevamento basata su un sistema automatico di hash-matching, in grado di confrontare i contenuti con database di riferimento del settore (per maggiori informazioni, consulta la sezione precedente su Contenuti relativi allo sfruttamento e all'abuso sessuale sui minori).
- Sistemi di rilevamento potenziati dall'IA e modelli linguistici di machine learning, in grado di individuare e inoltrare al team di moderatori contenuti potenzialmente illeciti.
- Sistemi antispam: tecnologie in grado di analizzare un'ampia gamma di dati relativi a profilo, a dispositivi e modelli comportamentali al fine di identificare e rimuovere preventivamente utenti sospetti.
Tutte le nostre tecnologie di rilevamento sono supportate da team specializzati di moderatori umani per garantire controlli corretti e affidabili.