Loi sur la sécurité en ligne : Protection des personnes contre les contenus illégaux

La sécurité est une priorité absolue pour Bumble. Afin de minimiser la durée pendant laquelle un contenu potentiellement contraire à notre Charte de la communauté ou nos conditions générales, ou tout contenu dangereux ou illégal reste sur Bumble (un « contenu en infraction »), nous déployons plusieurs mécanismes :

• Systèmes automatisés – Des outils permettant d’identifier le contenu en infraction et, dans certains cas, de prendre des mesures en temps réel.
• Modération humaine – Grâce à des personnes nous permettant de nous assurer que les cas sont examinés au regard du contexte.
• Contrôle par les membres – Des actions visant à encourager nos membres à utiliser nos outils intégrés pour signaler, bloquer et supprimer un match avec des comptes suspects.

Nous faisons preuve d’une vigilance particulière quant à certains types de contenus en infraction, en particulier :

1. Les contenus faisant l’apologie du terrorisme

• Notre Charte de la communauté, dans la section sur Terrorisme et extrémisme violent, interdit la présence sur l’application d’organisations et d’individus qui proclament, glorifient, approuvent ou soutiennent des actes violents, dangereux ou terroristes.
• Notre détection automatique basée sur les textes repère les mots-clés, les expressions et les modèles de comportement associés à des contenus extrémistes. Ces contenus font ensuite l’objet d’une modération humaine.
• De plus, les photos et les vidéos téléchargées sur l’application peuvent faire l’objet d’une modération humaine et/ou automatisée pour détecter des images contenant des armes à feu, des explosifs ou des symboles haineux.
• Dans les rares cas de contenus faisant l’apologie du terrorisme, ceux-ci sont rapidement supprimés et l’accès des membres concernés à l’application est révoqué.

2. Contenus pédocriminels

• Conformément à nos Conditions générales et à notre Charte de la communauté, Bumble est exclusivement réservé aux adultes de 18 ans et plus, et applique une politique de tolérance zéro envers toute forme d’exploitation et d’abus sexuels sur mineurs.
• Nous encourageons nos membres à signaler toute personne potentiellement mineure à l’aide de notre outil de signalement intégré, en précisant le motif du signalement.
• Nous déployons des mesures de vérification de l’âge conçues pour détecter et interdire l’accès à l’application de toute personne de moins de 18 ans, ce qui réduit considérablement le risque d’exploitation des enfants.
• Notre détection proactive automatisée basée sur les textes recherche les mots-clés et les indicateurs de comportement de personnes mineures sur l’application, ce qui nous aide également à détecter les éventuelles tentatives de sollicitations d’enfants à des fins pédocriminelles.
• Nous déployons également une technologie proactive de détection des contenus pédocriminels qui consiste en un hachage automatique et une comparaison avec des bases de données classiques dans le domaine pour identifier et supprimer les contenus pédocriminels connus. La détection des contenus pédocriminels entraîne la suppression immédiate et le blocage du compte.

3. Fraude et infractions financières (y compris les escroqueries sentimentales)

• Notre Charte de la communauté interdit toute escroquerie et toute manipulation visant à obtenir des ressources financières ou matérielles d’autres membres. Nous interdisons également les profils non authentiques et demandons à nos membres d’afficher des photos et des informations exactes sur leur profil.
• Nous encourageons nos membres à signaler toute escroquerie potentielle ou tout faux profil potentiel à l’aide de notre outil de signalement intégré, en précisant le motif du signalement.

• Nous combinons les vérifications automatisées et les vérifications manuelles pour détecter et supprimer les activités frauduleuses, notamment :
  • Deception Detector™ – Un système propriétaire de détection des fraudes basé sur l’IA qui analyse les données des profils, les modèles d’engagement et l’activité des comptes pour détecter de manière proactive tout comportement frauduleux avant que les escroqueries ne se produisent. Cette technologie est associée au travail d’une équipe d’assistance dédiée afin d’assurer la sécurité de notre communauté.
  • Détection des sollicitations financières – Un outil d’identification de mots-clés basé sur l’IA qui signale les messages comportant des sollicitations financières. Ces messages sont ensuite remontés pour être examinés par une personne.
  • Modération des photos et vidéos – Un examen automatique et humain des images pour détecter et faire remonter les images contenant des célébrités, des QR codes ou du texte.
  • De plus, notre équipe anti-spam dédiée analyse en permanence les données des profils, l’authenticité des photos et les modèles de comportement pour détecter les membres coupables d’escroquerie.

• Les profils signalés comme suspects sont soit bloqués immédiatement si le comportement frauduleux est confirmé, soit soumis à une vérification supplémentaire avant que le membre puisse à nouveau avoir accès à l’application.

4. Autres types de contenu en infraction

• Menaces, violences et harcèlement – Conformément à la directive de notre Charte de la communauté sur les brimades et les comportements abusifs, nous interdisons les contenus et les comportements susceptibles d’amener un individu ou un groupe à se sentir harcelé, intimidé ou pris pour cible.
• Discours haineux et désinformation dangereuse – Notre directive en matière de haine fondée sur l’identité interdit les contenus et les comportements qui encouragent ou tolèrent la haine, la déshumanisation, la dégradation ou le mépris à l’égard des communautés marginalisées ou minorisées, reposant sur différentes caractéristiques, notamment la race, l’ethnicité, la religion et les croyances.
• Les infractions à ces règles et aux autres directives de notre Charte de la communauté sont détectées par le biais de signalements de membres ou d’outils basés sur l’IA et font ensuite l’objet d’une modération humaine.

Agir en cas de signalement de contenu illégal

Nos membres jouent un rôle essentiel dans la sécurité de Bumble par leur signalement de tout contenu ou comportement susceptible d’enfreindre nos conditions d’utilisation, notre Charte de la communauté ou la loi. Pour permettre une action rapide, nous encourageons nos membres à bloquer et signaler toute personne qui les met mal à l’aise ou les fait se sentir en danger. Consulte cet article pour en savoir plus sur la procédure de signalement sur Bumble. Des outils automatisés et une équipe de modération analysent le contenu signalé pour déterminer la mesure à déployer.

Au Royaume-Uni, toute personne, membre ou non, peut signaler tout contenu sur Bumble qui, selon elle, enfreint nos conditions d’utilisation, notre Charte de la communauté ou la loi du Royaume-Uni via notre formulaire de signalement, en indiquant la nature de l’infraction. Ce formulaire peut également être utilisé pour introduire une réclamation concernant la conformité de Bumble à la loi du Royaume-Uni sur la sécurité en ligne. Tous les signalements de contenu illégal et toutes les réclamations concernant la non-conformité adressés via le formulaire de signalement sont examinés par notre équipe de modération.

Si nous estimons qu’un contenu signalé enfreint nos conditions d’utilisation, notre Charte de la communauté ou la loi, nous déterminons la sanction à appliquer en tenant compte de plusieurs facteurs. Par exemple, nous pouvons :

• Supprimer le contenu
• Émettre un avertissement
• Bannir le membre en infraction de certaines ou toutes les applications de Bumble Inc.

Si nécessaire, nous pouvons également coopérer avec les forces de l’ordre pour contribuer à d’éventuelles enquêtes pénales liées au comportement de nos membres.

Si nous estimons qu’une réclamation pour non-conformité est fondée, nous étudierons nos systèmes et procédures pour nous assurer de notre conformité aux obligations concernées de la loi sur la sécurité en ligne.

Utilisation de technologies proactives

Nous utilisons des technologies de détection avancées pour identifier et supprimer les contenus en infraction de manière proactive, notamment :

• Private Detector™ – Un outil basé sur l’IA qui détecte et floute automatiquement les images explicites avant qu’elles ne soient vues par les membres afin d’éviter les contenus sexuels indésirables (constituant du « cyberflashing »). Les membres peuvent choisir d’afficher ou de signaler immédiatement les images floutées.
• Deception Detector™ – Un outil qui utilise l’apprentissage automatique pour détecter les profils non authentiques (plus d’informations dans la partie qui précède sur la fraude et les infractions financières).
• Détection des contenus pédocriminels – Une technologie de détection qui consiste en un hachage automatique et une comparaison avec des bases de données classiques dans le domaine (plus d’informations dans la partie qui précède sur les contenus pédocriminels).
• Une détection basée sur l’IA et des modèles d’apprentissage basés sur les textes qui détectent et font remonter les contenus soupçonnés d’être en infraction.
• Systèmes anti-spam – Des outils qui analysent un large éventail de profils, d’appareils et de données comportementales pour détecter les modèles de comportement suspect et supprimer de manière proactive les comptes coupables d’escroquerie.

Toutes nos technologies de détection sont associées au travail d’équipes de vérification, pour éviter toute erreur.