Turvallisuus on Bumblelle ensisijaisen tärkeää. Minimoidaksemme ajan, jonka mahdollisesti yhteisöohjeita tai käyttöehtoja rikkova taikka muuten haitallinen tai laiton sisältö (johon viitataan nimellä "sääntöjen vastainen sisältö") pysyy Bumblessa, käytämme seuraavien keinojen yhdistelmää:
- Automaattiset järjestelmät – nämä tunnistavat sääntöjä rikkovan sisällön ja joissakin tapauksissa ryhtyvät toimiin sitä vastaan reaaliajassa.
- Ihmisjohtoinen moderointi – varmistaaksemme, että jatkokäsittelyyn siirretyt tapaukset tarkastellaan asianmukaisessa kontekstissa.
- Jäsenten ilmoitukset – kannustamme kaikkia jäseniämme käyttämään sovelluksen sisäisiä työkalujamme epäilyttävien tilien ilmoittamiseen ja estämiseen sekä epäilyttävien yhteyksien poistamiseen.
Käytämme näitä toimenpiteitä keskittyen erityisesti tietyntyyppiseen sääntöjen vastaiseen sisältöön, mukaan lukien (mutta ei rajoittuen):
1. Terrorismiin liittyvä sisältö
- Terrorismia ja väkivaltaista ekstremismiä koskevat yhteisöohjeemme kieltävät sellaisten henkilöiden tai organisaatioiden läsnäolon sovelluksessa, jotka julistavat, ihannoivat, hyväksyvät tai tukevat väkivaltaista, vaarallista tai terrorismiin perustuvaa toimintaa.
- Automaattinen tekstipohjainen tunnistus merkitsee äärisisältöön liittyvät avainsanat, lauseet ja käyttäytymismallit ihmisen tarkistettavaksi.
- Lisäksi sovellukseen ladatut kuvat ja videot voivat joutua sekä ihmisen että automaattisen moderoinnin kohteeksi, jotta niistä voidaan tunnistaa ampuma-aseita, räjähteitä tai vihasymboleita sisältävää kuvamateriaalia.
- Siinä epätodennäköisessä tapauksessa, että tämän kategorian sääntöjen vastainen sisältö todetaan, se poistetaan viipymättä ja jäsenen pääsy sovellukseen peruutetaan.
2. Lasten seksuaalista riistoa ja hyväksikäyttöä (CSEA) koskeva sisältö
- Käyttöehtojemme ja yhteisöohjeidemme mukaan Bumble on tarkoitettu vain aikuisille (18+), ja meillä on nollatoleranssi kaikenlaista lasten seksuaalista riistoa ja hyväksikäyttöä kohtaan.
- Kaikkia jäseniä kannustetaan ilmoittamaan epäillyistä alaikäisistä jäsenistä käyttämällä sovelluksen sisäisiä ilmoitustyökaluja ja erityisiä ilmoitussyitä.
- Käytämme iänvarmistustoimenpiteitä, jotka on suunniteltu havaitsemaan ja peruuttamaan alle 18-vuotiaiden henkilöiden pääsy sovellukseen, mikä vähentää merkittävästi lasten hyväksikäytön riskiä.
- Automaattinen, ennakoiva tekstipohjainen tunnistuksemme etsii alaikäisyyteen viittaavia avainsanoja ja käyttäytymismalleja sovelluksessa, mikä auttaa meitä myös havaitsemaan mahdollista groomingia eli lapsen houkutteluyrityksiä.
- Käytämme myös ennakoivaa lapsiin kohdistuvaa seksuaalista hyväksikäyttöä koskevan materiaalin (CSAM) tunnistusteknologiaa, joka perustuu automaattiseen hash-vertailuun alan standarditietokantoihin. Tunnistettu CSAM poistetaan välittömästi ja käyttäjätili estetään.
3. Petokset ja talousrikokset (mukaan lukien "romanssihuijaukset")
- Yhteisöohjeemme kieltävät huijaukset ja varkaudet, joiden tarkoituksena on johtaa jäseniä harhaan tai manipuloida heitä taloudellisten tai aineellisten resurssien saamiseksi. Kiellämme myös epäaidot profiilit ja odotamme kaikkien jäsentemme edustavan itseään totuudenmukaisesti profiilissaan.
- Jäseniä kannustetaan ilmoittamaan kaikista epäillyistä huijauksista tai valeprofiileista käyttämällä sovelluksen sisäisiä ilmoitustyökaluja ja erityisiä ilmoitussyitä.
-
Käytämme automaattisten ja manuaalisten tarkistusten yhdistelmää petollisen toiminnan havaitsemiseksi ja poistamiseksi, mukaan lukien:
- Deception Detector™ – patentoitu tekoälypohjainen järjestelmä petosten tunnistamiseen, joka analysoi profiilitietoja, käyttäytymismalleja ja tilin toimintaa havaitakseen petokset ennakoivasti jo ennen huijauksen tapahtumista. Tätä teknologiaa käytetään yhdessä omistautuneen ihmistuen kanssa turvallisen ja voimaannuttavan yhteisön priorisoimiseksi.
- Taloudellisen pyynnön tunnistus – tekoälyyn ja avainsanaskannaukseen perustuva järjestelmä merkitsee ja ohjaa ihmisen tarkastettavaksi viestit, jotka sisältävät taloudellisia pyyntöjä.
- Kuva- ja videomoderointi: automaattinen ja ihmisen tekemä kuvien tarkastus, jolla havaitaan ja tarvittaessa siirretään jatkokäsittelyyn kuvat, jotka sisältävät julkkiksia, QR-koodeja tai tekstiä.
- Lisäksi omistautunut Anti-Spam-tiimimme analysoi jatkuvasti profiilitietoja, valokuvien aitoutta ja käyttäytymismalleja vilpillisten käyttäjien havaitsemiseksi.
- Epäilyttäviksi merkityt profiilit joko estetään välittömästi, jos vilpillinen toiminta vahvistetaan, tai niitä vaaditaan suorittamaan lisävahvistus ennen sovelluksen käyttöoikeuden palauttamista.
4. Muu loukkaava sisältö
- Uhkaaminen, häirintä ja solvaaminen – kuten yhteisöohjeidemme kohdassa "Kiusaaminen ja loukkaava käytös" todetaan, emme salli sisältöä tai käytöstä, joka saa yksittäisen henkilön tai ryhmän tuntemaan olonsa häirityksi, kiusatuksi tai hyökkäyksen kohteeksi joutuneeksi.
- Vihapuhe ja haitallinen harhaanjohtava tieto – identiteettiin perustuvaa vihaa koskeva ohjeistuksemme kieltää sisällön tai käytöksen, joka edistää tai hyväksyy vihaa, epäinhimillistämistä, halventamista tai halveksuntaa syrjittyjä tai vähemmistöasemassa olevia yhteisöjä kohtaan perustuen laajaan kirjoon suojattuja ominaisuuksia, kuten rotuun/etniseen taustaan tai uskontoon/maailmankatsomukseen.
- Näiden ja muiden yhteisöohjeidemme kohtien rikkomukset havaitaan jäsenten ilmoitusten tai tekoälypohjaisten työkalujen avulla, ja ne merkitään ihmisen tarkistettavaksi.
Laittomasta sisällöstä tehtyihin ilmoituksiin reagoiminen
Jäsenillämme on ratkaiseva rooli Bumblen turvallisuuden ylläpitämisessä ilmoittamalla sisällöstä tai käyttäytymisestä, joka saattaa rikkoa käyttöehtojamme tai lakia. Nopean toiminnan varmistamiseksi kannustamme kaikkia jäseniä käyttämään Estä ja ilmoita -toimintoa jokaisen henkilön kohdalla, joka saa heidät tuntemaan olonsa epämukavaksi tai turvattomaksi. Katso tästä artikkelista lisätietoja siitä, mitä tapahtuu, kun jäsenet tekevät ilmoituksen jostakusta Bumblelle. Automaattiset työkalut ja ihmistarkastajat analysoivat ilmoitetun sisällön määrittääkseen tarvittavat toimenpiteet.
Yhdistyneessä kuningaskunnassa jäsenemme ja muut ihmiset voivat myös ilmiantaa Bumblen sisällön, joka heidän mielestään rikkoo käyttöehtojamme, yhteisöohjeitamme tai Yhdistyneen kuningaskunnan lakia ilmoituslomakkeellamme ja kertoa rikkomuksen tyypin. Tätä lomaketta voidaan käyttää myös valituksen tekemiseen mistä tahansa Bumblen OSA:n noudattamiseen liittyvästä asiasta. Ihmismoderaattorit tarkistavat kaikki ilmoitukset liittyen laittomaan sisältöön ja sääntöjen noudattamatta jättämiseen, jotka on lähetetty ilmoituslomakkeen kautta.
Jos katsomme, että ilmiannettu sisältö rikkoo käyttöehtojamme, yhteisöohjeitamme tai lakia, määritämme rangaistuksen useiden tekijöiden perusteella. Voimme esimerkiksi toimia seuraavasti:
- poistaa sisällön
- antaa varoituksen
- estää sääntöjä rikkoneen jäsenen joistakin tai kaikista Bumble Inc. -sovelluksista.
Tarvittaessa voimme myös tehdä yhteistyötä lainvalvontaviranomaisten kanssa auttaaksemme mahdollisissa jäsenten toimintaan liittyvissä rikostutkimuksissa.
Jos toteamme, että sääntöjenvastaisuutta koskeva valitus on perusteltu, tarkistamme järjestelmämme ja prosessimme varmistaaksemme, että ne noudattavat asianmukaisesti OSA-velvoitteita.
Ennakoivan teknologian käyttö
Käytämme kehittyneitä tunnistusteknologioita havaitaksemme ja poistaaksemme sääntöjen vastaista sisältöä ennakoivasti, mukaan lukien:
- Private Detector™ – tekoälyyn perustuva työkalu, joka havaitsee ja sumentaa automaattisesti seksuaalisesti eksplisiittiset kuvat ennen kuin ne tavoittavat käyttäjät, estääkseen ei-toivotun seksuaalisen sisällön (tunnetaan myös nimellä "cyberflashing"). Käyttäjät voivat halutessaan katsoa tai ilmoittaa sumennetuista kuvista suoraan.
- Deception Detector™ – käyttää koneoppimista epäaitojen profiilien havaitsemiseen (katso lisätietoja yllä olevasta kohdasta "Petokset ja talousrikokset").
- CSAM-tunnistus – tunnistusteknologia, joka perustuu automaattiseen hash-vertailuun alan standarditietokantojen kanssa (katso lisätietoja yllä olevasta kohdasta "Lapsiin kohdistuva seksuaalinen riisto ja hyväksikäyttö").
- Tekoälyllä toimiva tunnistus ja tekstipohjaiset koneoppimismallit, jotka havaitsevat ja ohjaavat käsiteltäväksi epäiltyä sääntöjen vastaista sisältöä.
- Anti-Spam-järjestelmät – analysoivat laajasti profiili-, laite- ja käyttäytymistietoja tunnistaakseen epäilyttävän toiminnan malleja ja poistaakseen vilpilliset käyttäjät ennakoivasti.
Kaikki tunnistusteknologiamme toimivat yhdessä ihmistarkastustiimien kanssa varmistaakseen sääntöjen täsmällisen ja oikeudenmukaisen valvonnan.