Bezpieczeństwo jest w Bumble najwyższym priorytetem. Aby zminimalizować czas wyświetlania w Bumble treści, które mogą być niezgodne z naszymi Wytycznymi dla społeczności, naszym Regulaminemlub mogą być w inny sposób szkodliwe lub niezgodne z prawem (zwane „Treściami naruszającymi zasady”), stosujemy połączenie:
- Zautomatyzowanych systemów, które identyfikują i w niektórych przypadkach podejmują w czasie rzeczywistym działania przeciwko Treściom naruszającym zasady.
- Moderacji prowadzonych przez człowieka, w celu zapewnienia, że zgłaszane sprawy są analizowane w odpowiednim kontekście.
- Kontroli przez innych użytkowników – zachęcamy wszystkich naszych członków do korzystania z naszych narzędzi w aplikacji do zgłaszania, blokowania i wykluczania podejrzanych kont.
Korzystamy z tych środków, koncentrując się w szczególności na niektórych rodzajach Treści naruszających zasady. Obejmują one (ale nie wyłącznie):
1. Treści noszące znamiona terroryzmu
- Nasze Wytyczne dla społeczności dotyczące terroryzmu i ekstremizmu z użyciem przemocy zabraniają osobom lub organizacjom, które głoszą, gloryfikują, akceptują lub popierają działania oparte na przemocy, niebezpieczne lub o charakterze terrorystycznym obecności w aplikacji.
- Nasze zautomatyzowany, bazujący na tekście system wykrywania oznacza słowa kluczowe, frazy i wzorce zachowań związane z treściami ekstremistycznymi, które podlegają weryfikacji przez człowieka.
- Ponadto zdjęcia i filmy przesyłane do aplikacji mogą podlegać zarówno wykonywanej przez człowieka, jak i automatycznej moderacji w celu wykrycia obrazów zawierających broń palną, materiały wybuchowe lub symbole noszące znamiona nienawiści.
- W mało prawdopodobnym przypadku stwierdzenia Treści naruszających zasady w tej kategorii, zostaną one szybko usunięte, a dostęp takiego użytkownika do aplikacji zostanie cofnięty.
2. Treści dotyczące seksualnego wykorzystywania i przemocy wobec dzieci (CSEA)
- Zgodnie z naszymi Warunkami korzystania z usługi oraz Wytycznymi dla społeczności, serwis Bumble jest przeznaczony wyłącznie dla osób pełnoletnich (powyżej 18 lat), a my stosujemy politykę zerowej tolerancji wobec wszelkich form wykorzystywania seksualnego i przemocy wobec dzieci.
- Zachęcamy wszystkich użytkowników do zgłaszania wszelkich podejrzeń dotyczących nieletnich użytkowników, korzystając z określonych powodów zgłaszania w naszym narzędziu w aplikacji.
- Wdrażamy środki kontroli wieku zaprojektowane w celu wykrywania i cofania dostępu do aplikacji osobom poniżej 18 roku życia, co znacznie zmniejsza ryzyko wykorzystywania dzieci.
- Nasz proaktywny, zautomatyzowany i oparty na tekście system wykrywania skanuje w poszukiwaniu słów kluczowych i wskaźników zachowań typowych dla nieletnich użytkowników w aplikacji, co pomaga nam również wykrywać potencjalne próby uwodzenia i manipulacji dzieci (tzw. grooming).
- Wdrażamy również proaktywną technologię wykrywania Materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM), polegającą na automatycznym dopasowywaniu hashów do standardowych branżowych baz danych w celu identyfikacji i usuwania znanych materiałów CSAM. Potwierdzone CSAM skutkuje natychmiastowym usunięciem i zablokowaniem konta.
3. Oszustwa i przestępstwa finansowe (w tym „Romantyczne oszustwa”)
- Nasze Wytyczne dla społeczności zabraniają wszelkich oszustw lub kradzieży oraz działań mających na celu oszukanie lub zmanipulowanie użytkowników dotyczące ich zasobów finansowych lub materialnych. Zabraniamy również tworzenia Nieautentycznych profili i oczekujemy, że wszyscy nasi użytkownicy będą zgodnie z prawdą przedstawiać siebie w swoich profilach.
- Zachęcamy wszystkich użytkowników do zgłaszania wszelkich podejrzanych oszustw lub fałszywych profili, korzystając z określonych powodów raportowania w naszym narzędziu w aplikacji.
-
W celu wykrywania i usuwania nieuczciwych działań stosujemy połączenie automatycznych i ręcznych kontroli, w tym:
- Deception Detector ™ – zastrzeżony system wykrywania oszustw oparty na sztucznej inteligencji, który analizuje dane profilu, wzorce zaangażowania i aktywność konta w celu proaktywnego wykrywania podejrzanych zachowań jeszcze przed wystąpieniem oszustwa. Technologia ta jest wykorzystywana w połączeniu z dedykowanym wsparciem przez człowieka, aby priorytetowo traktować bezpieczną i wspierającą społeczność.
- Wykrywanie próśb o wsparcie finansowe – wiadomości z prośbami o wsparcie finansowe są identyfikowane przez system oparty na sztucznej inteligencji i skanowaniu słów kluczowych, a następnie oznaczane i przekazywane do ręcznej weryfikacji.
- Moderacja zdjęć i filmów – weryfikacja obrazów (automatyczna i wykonywana przez człowieka) w celu wykrycia i zgłaszania zdjęć zawierających celebrytów, kody QR lub tekst.
- Ponadto nasz dedykowany Zespół antyspamowy stale analizuje dane profilu, autentyczność zdjęć i wzorce zachowań w celu wykrywania nieuczciwych użytkowników.
- Profile oznaczone jako podejrzane są albo natychmiast blokowane (jeśli nieuczciwe zachowanie zostanie potwierdzone), albo wymagane jest przeprowadzenie dodatkowej weryfikacji przed odzyskaniem dostępu do aplikacji.
4. Inne Treści naruszające zasady
- Groźby, nadużycia i nękanie – zgodnie z naszymi Wytycznymi dla społeczności dotyczącymi Nękania i obraźliwego zachowania, nie zezwalamy na treści lub zachowania, które sprawiają, że jakakolwiek osoba lub grupa czuje się nękana, zastraszana lub atakowana.
- Mowa nienawiści i szkodliwa dezinformacja – nasza polityka dotycząca nienawiści opartej na tożsamości zabrania treści lub zachowań, które promują lub przyzwalają na nienawiść, dehumanizację, degradację lub pogardę wobec zmarginalizowanych lub mniejszościowych społeczności w oparciu o szeroki zakres chronionych atrybutów, w tym rasę/pochodzenie etniczne i religię/wiarę.
- Naruszenia tych i innych naszych Wytycznych dla społeczności są wykrywane za pomocą raportów użytkowników lub narzędzi opartych na sztucznej inteligencji i oznaczane do moderacji przez człowieka.
Podejmowanie działań w związku ze zgłoszeniami dotyczącymi nielegalnych treści
Nasi członkowie odgrywają kluczową rolę w bezpieczeństwie Bumble ponieważ mogą zgłaszać treści lub zachowania, które mogą naruszać nasze Warunki użytkowania, Wytyczne dla społeczności lub prawo. Aby zapewnić szybkie działanie, zachęcamy wszystkich użytkowników do raportowania za pomocą opcji „Zablokuj i zgłoś każdego, kto sprawia, że czują się niekomfortowo lub niebezpiecznie. Zajrzyj do tego artykułu, aby uzyskać więcej informacji na temat tego, co dzieje się, gdy użytkownicy zgłaszają coś do Bumble. Zautomatyzowane narzędzia i weryfikujące osoby analizują zgłoszone treści w celu określenia odpowiednich działań.
W Wielkiej Brytanii nasi członkowie i osoby postronne mogą również zgłaszać wszelkie treści znajdujące się w Bumble, które ich zdaniem naruszają nasze Warunki użytkowania, nasze Wytyczne dla społecznościlub prawo brytyjskie za pośrednictwem naszego Formularza zgłoszeniowego,określając przy tym rodzaj naruszenia. Z formularza można skorzystać także w celu złożenia skargi dotyczącej dowolnego aspektu zgodności Bumble z OSA. Wszystkie zgłoszenia dotyczące nielegalnych treści i niezgodności przesłane za pośrednictwem Formularza zgłoszeniowego są sprawdzane przez moderatorów.
Jeśli stwierdzimy, że zgłoszona treść narusza nasze Warunki użytkowania, Wytyczne dla społeczności lub prawo, określamy sankcje, biorąc pod uwagę kilka czynników. Na przykład możemy:
- Usuń treści
- Wystosować ostrzeżenie
- Zabronić użytkownikowi, który dopuścił się naruszenia, dostępu do niektórych lub wszystkich aplikacji Bumble Inc.
W razie potrzeby możemy również współpracować z organami ścigania, aby pomóc w potencjalnych dochodzeniach karnych związanych z postępowaniem danej osoby.
Jeśli stwierdzimy, że skarga dotycząca niezgodności była uzasadniona, dokonamy przeglądu naszych systemów i procesów w celu zapewnienia zgodności z odpowiednimi zobowiązaniami OSA.
Wykorzystanie proaktywnej technologii
Stosujemy zaawansowane technologie wykrywania w celu proaktywnego identyfikowania i usuwania Treści naruszających zasady, w tym:
- Private Detector™ – narzędzie oparte na sztucznej inteligencji, które automatycznie wykrywa i rozmywa obrazy o charakterze jednoznacznie seksualnym, zanim dotrą one do użytkowników, aby chronić przed niepożądanymi treściami o charakterze seksualnym (znane również jako „cyberflashing”). Użytkownicy mogą wybrać, czy chcą wyświetlić, czy natychmiast zgłosić rozmyte obrazy.
- Deception Detector™ – wykorzystuje uczenie maszynowe do wykrywania nieautentycznych profili (więcej informacji w powyższej sekcji Oszustwa i przestępstwa finansowe).
- Wykrywanie treści CSAM – technologia wykrywania polegająca na automatycznym dopasowywaniu skrótów kryptograficznych do standardowych branżowych baz danych (więcej informacji w powyższej sekcji dotyczącej seksualnego wykorzystywania i nadużyć wobec dzieci).
- Wykrywanie oparte na sztucznej inteligencji i tekstowe modele uczenia maszynowego, które wykrywają i zgłaszają podejrzane naruszające zasady treści.
- Systemy antyspamowe – analizują szeroki zakres profili, urządzeń i danych behawioralnych w celu wykrywania wzorców podejrzanych zachowań i proaktywnego usuwania nieuczciwych użytkowników.
Wszystkie nasze technologie wykrywania działają wraz z zespołami weryfikacji manualnej, aby zapewniać dokładne egzekwowanie przepisów.