Gesetz zur Online-Sicherheit: Schutz von Personen vor illegalem Content

Bei Bumble hat Sicherheit oberste Priorität. Um die Zeit zu minimieren, in der Content, der gegen unsere Community-Richtlinien oder AGB verstößt bzw. anderweitig schädlich oder rechtswidrig ist (im Folgenden als „verletzender Content“ bezeichnet), auf Bumble verbleibt, setzen wir auf eine Kombination der folgenden Mechanismen:

• Automatisierte Systeme – diese erkennen verletzenden Content in Echtzeit und ergreifen in einigen Fällen Maßnahmen dagegen.
• Menschengeführte Moderation – um sicherzustellen, dass weitergeleitete Fälle mit angemessenem Kontext überprüft werden.
• Kontrolle durch Mitglieder – wir ermutigen alle unsere Mitglieder, unsere In-App-Tools zu nutzen, um verdächtige Accounts zu melden, zu sperren und die damit verbundenen Matches zu löschen.

Wir setzen diese Maßnahmen mit besonderem Fokus auf bestimmte Arten von verletzendem Content ein. Dazu zählen unter anderem (aber nicht ausschließlich):

1. Terrorismusbezogener Content

• Unsere Community-Richtlinien zu Terrorismus und gewalttätigem Extremismus verbieten es Einzelpersonen oder Organisationen, die gewalttätige, gefährliche oder terroristische Handlungen verkünden, verherrlichen, dulden oder unterstützen, in der App präsent zu sein.
• Mithilfe unserer automatischen Textanalyse werden Schlüsselwörter, Ausdrücke und Verhaltensmuster, die mit extremistischem Content in Verbindung stehen, ermittelt und zur Überprüfung durch einen Menschen gemeldet.
• Außerdem können Fotos und Videos, die in die App hochgeladen werden, von Menschen oder automatisiert überprüft werden, um Bilder mit Waffen, Sprengstoff oder Hasssymbolen zu erkennen.
• Im unwahrscheinlichen Fall, dass Content dieser Kategorie festgestellt wird, wird dieser sofort entfernt und der Zugang des Mitglieds zur App gesperrt.

2. Content, der sexuelle Ausbeutung und sexuellen Missbrauch von Kindern (CSEA) darstellt oder unterstützt

• Gemäß unseren AGB und Community-Richtlinien ist Bumble ausschließlich für Erwachsene (ab 18 Jahren) bestimmt, und wir verfolgen eine Null-Toleranz-Politik gegenüber jeglicher Form sexueller Ausbeutung und sexuellen Missbrauchs von Kindern.
• Wir ermutigen alle Mitglieder dazu, mutmaßlich minderjährige Mitglieder unter Angabe der konkreten Meldegründe über unser In-App-Tool zu melden.
• Wir setzen Maßnahmen zur Altersüberprüfung ein, die darauf abzielen, Personen unter 18 Jahren zu erkennen und ihnen den Zugang zur App zu verweigern, wodurch das Risiko der Ausbeutung von Kindern erheblich verringert wird.
• Unsere proaktive, automatische, textbasierte Erkennung sucht nach Schlüsselwörtern und Verhaltensindikatoren von minderjährigen Usern in der App, was uns auch hilft, potenzielle Grooming-Versuche gegenüber Kindern zu erkennen.
• Wir setzen auch eine proaktive Technologie zur Erkennung von Darstellungen des sexuellen Missbrauchs von Kindern (CSAM) ein, die aus einem automatischen Hash-Matching mit branchenüblichen Datenbanken besteht, um bekannte CSAM zu identifizieren und zu entfernen. Bestätigte CSAM werden sofort entfernt und der Account gesperrt.

3. Betrug und Finanzdelikte (einschließlich „Romance Scams“)

• Unsere Community-Richtlinien verbieten jegliche Betrugs- oder Diebstahlsaktivitäten, die darauf abzielen, Mitglieder durch Täuschung oder Manipulation um finanzielle oder materielle Ressourcen zu bringen. Wir verbieten auch nicht authentische Profile und erwarten von allen Mitgliedern, dass sie sich in ihrem Profil korrekt darstellen.
• Alle Mitglieder werden dazu angehalten, jeden Verdacht auf Betrug oder gefälschte Profile zu melden, indem sie die speziellen Meldegründe in unserem In-App-Tool nutzen.

• Um betrügerische Aktivitäten zu erkennen und zu entfernen, setzen wir eine Kombination aus automatischen und manuellen Kontrollmechanismen ein. Dazu gehören:
  • Deception Detector™ – ein proprietäres, KI-gesteuertes Betrugserkennungssystem, das Profildaten, Engagement-Muster und Kontoaktivitäten analysiert, um Betrug proaktiv zu erkennen, bevor es zu einem Betrug kommt. Diese Technologie wird zusammen mit engagierter menschlicher Unterstützung eingesetzt, um eine sichere und bestärkende Community zu fördern.
  • Erkennung finanzieller Aufforderungen – KI-gesteuerte und auf Schlüsselwörtern basierende Warnmeldungen, die zur Überprüfung durch einen Menschen weitergeleitet werden.
  • Foto- und Videomoderation – automatische und manuelle Bildüberprüfung zur Erkennung und Weiterleitung von Bildern, die Prominente, QR-Codes oder Text enthalten.
  • Unser engagiertes Anti-Spam-Team analysiert darüber hinaus kontinuierlich Profildaten, Fotoauthentizität und Verhaltensmuster, um betrügerische User zu erkennen.

• Profile, die als verdächtig gekennzeichnet sind, werden entweder sofort gesperrt, wenn betrügerisches Verhalten bestätigt wird, oder die betreffende Person muss eine zusätzliche Verifizierung durchführen, bevor sie wieder Zugang zur App erhält.

4. Anderer verletzender Content

• Drohungen, Missbrauch und Belästigung – wie in unseren Community-Richtlinien zu Mobbing und missbräuchlichem Verhalten dargelegt, erlauben wir weder Content noch Verhaltensweisen, die dazu führen, dass sich eine Person oder Gruppe belästigt, gemobbt oder angegriffen fühlt.
• Hassreden und schädliche Fehlinformationen – unsere Richtlinie zu identitätsbezogenem Hass verbietet Content und Verhaltensweisen, die Hass, Entmenschlichung, Entwürdigung oder Verachtung gegenüber marginalisierten oder minoritären Communitys auf der Grundlage einer Vielzahl geschützter Merkmale, einschließlich ethnischer Herkunft und Religion/Weltanschauung, fördern oder befürworten.
• Verstöße gegen diese und andere Community-Richtlinien werden durch Meldungen von Mitgliedern oder KI-gesteuerte Tools erkannt und zur menschengeführten Moderation weitergeleitet.

Maßnahmen aufgrund von Meldungen über illegalen Content

Unsere Mitglieder spielen eine entscheidende Rolle für die Sicherheit bei Bumble, indem sie Content und Verhaltensweisen melden, die gegen unsere Nutzungsbedingungen, Community-Richtlinien oder gegen Gesetze verstoßen. Um schnelles Handeln zu gewährleisten, ermutigen wir alle Mitglieder dazu, Personen, bei denen sie sich unwohl oder unsicher fühlen, zu blockieren und zu melden. In diesem Artikel erfährst du mehr darüber, was passiert, wenn Mitglieder etwas bei Bumble melden. Der gemeldete Content wird von automatisierten Tools und menschlichen Prüfpersonen analysiert, um angemessene Schritte zu ergreifen.

Im Vereinigten Königreich können unsere Mitglieder und Bürger:innen auch jeden Content auf Bumble melden, der ihrer Meinung nach gegen unsere Nutzungsbedingungen, unsere Community-Richtlinienoder gegen britisches Recht verstößt, indem sie unser Meldeformular ausfüllen und die Art des Verstoßes beschreiben. Mit diesem Formular kannst du auch eine Beschwerde in Bezug auf die OSA-Compliance durch Bumble einreichen. Alle Meldungen über illegalen Content und Compliance-Beschwerden, die über das Meldeformular eingereicht werden, werden von menschlichen Moderator:innen geprüft.

Wenn wir feststellen, dass gemeldeter Content gegen unsere Nutzungsbedingungen, Community-Richtlinien oder gegen Gesetze verstößt, legen wir Sanktionen unter Berücksichtigung verschiedener Faktoren fest. Zum Beispiel können wir Folgendes tun:

• Den Content entfernen
• Eine Verwarnung aussprechen
• Das betreffende Mitglied aus einigen oder allen Apps von Bumble Inc. sperren

Bei möglichen strafrechtlichen Ermittlungen im Zusammenhang mit dem Verhalten von Mitgliedern arbeiten wir bei Bedarf auch mit Justizbehörden zusammen.

Wenn sich herausstellt, dass eine Compliance-Beschwerde begründet ist, überprüfen wir unsere Systeme und Verfahren, um sicherzustellen, dass wir unsere OSA-Verpflichtungen einhalten.

Einsatz proaktiver Technologie

Wir nutzen moderne Technologien, um verletzenden Content proaktiv zu erkennen und zu entfernen, zum Beispiel:

• Private Detector™ – ein KI-gesteuertes Tool, das sexuell eindeutige Bilder automatisch erkennt und unkenntlich macht, bevor sie die User erreichen, um unerwünschten sexuellen Content (auch bekannt als „Cyberflashing“) zu verhindern. Die User können entscheiden, ob sie unkenntlich gemachte Bilder sehen oder diese direkt melden möchten.
• Deception Detector™ – nutzt maschinelles Lernen, um nicht authentische Profile zu erkennen (siehe weitere Informationen oben im Abschnitt über Betrug und Finanzdelikte).
• CSAM-Erkennung – Erkennungstechnologie, die aus einem automatischen Hash-Abgleich mit branchenüblichen Datenbanken besteht (siehe weitere Informationen oben im Abschnitt über sexuelle Ausbeutung und sexuellen Missbrauch von Kindern).
• KI-gestützte Erkennung und textbasierte maschinelle Lernmodelle, die mutmaßlich verletzenden Content erkennen und zur weiteren Prüfung weiterleiten.
• Anti-Spam-Systeme – diese analysieren eine breite Palette von Profil-, Geräte- und Verhaltensdaten, um verdächtige Verhaltensmuster zu erkennen und betrügerische User proaktiv zu entfernen.

Alle unsere Erkennungstechnologien werden von menschlichen Verifizierungsteams unterstützt, um eine genaue Einhaltung zu gewährleisten.