La seguridad es una prioridad absoluta en Bumble. Para minimizar el tiempo que el contenido que pueda infringir nuestras Normas de la comunidad, Condiciones de uso o que sea perjudicial o ilegal permanece en Bumble (denominado «Contenido infractor»), utilizamos una combinación de:
- Sistemas automatizados: identifican y, en algunos casos, toman medidas contra el contenido infractor en tiempo real.
- Moderación realizada por personas: para garantizar que los casos escalados se revisen en el contexto adecuado.
- Controles de miembros: animamos a todos nuestros miembros a utilizar las herramientas de nuestra app para denunciar, bloquear y eliminar el match de cuentas sospechosas.
Utilizamos estas medidas con un enfoque particular en ciertos tipos de Contenido infractor, que incluyen (pero no se limitan a):
1. Contenido relacionado con el terrorismo
- Nuestras Normas de la comunidad sobre Terrorismo y Extremismo Violento prohíben que las personas u organizaciones que proclamen, enaltezcan, aprueben o apoyen misiones violentas, peligrosas o de carácter terrorista tengan presencia en la app.
- Nuestro sistema automatizado de detección basado en texto señala palabras clave, frases y patrones de comportamiento asociados con contenido extremista para su revisión por parte de seres humanos.
- Además, las fotos y los vídeos subidos a la app pueden someterse a moderación humana y/o automatizada para detectar imágenes que contengan armas de fuego, explosivos o símbolos de odio.
- En el improbable caso de que se determine la existencia de contenido infractor en esta categoría, dicho contenido se eliminará rápidamente y se revocará el acceso del miembro a la aplicación.
2. Contenido de Explotación y Abuso Sexual Infantil (CSEA)
- Según nuestras Condiciones de uso y Normas de la Comunidad, Bumble es exclusivamente para personas adultas (18+), y tenemos una política de tolerancia cero hacia cualquier forma de explotación y abuso sexual infantil.
- Se anima a todos los miembros a que denuncien cualquier sospecha de miembros menores de edad utilizando los motivos específicos de denuncia en nuestra herramienta integrada en la app.
- Implementamos medidas de verificación de la edad diseñadas para detectar y revocar el acceso a la app a cualquier persona menor de 18 años, lo que reduce significativamente el riesgo de explotación infantil.
- Nuestra detección proactiva y automatizada basada en texto busca palabras clave e indicadores de comportamiento de personas usuarias menores de edad en la app, lo que también nos ayuda a detectar posibles intentos de captación de menores.
- También implementamos tecnología proactiva de detección de material de abuso sexual infantil (CSAM) que consiste en la comparación automática de hash con bases de datos estándar del sector para identificar y eliminar el CSAM conocido. El CSAM confirmado da lugar a la eliminación inmediata y al bloqueo de la cuenta.
3. Fraude y Delitos financieros (incluidas las "Estafas románticas")
- Nuestras Normas de la comunidad prohíben cualquier actividad de estafa o robo destinada a defraudar o manipular a los miembros con recursos financieros o materiales. También prohibimos los perfiles no auténticos y esperamos que todas las personas de nuestra comunidad se muestren a sí mismas de manera veraz en su perfil.
- Se anima a todos los miembros a denunciar cualquier sospecha de estafa o perfiles falsos utilizando los motivos de denuncia específicos de nuestra herramienta en la app.
-
Empleamos una combinación de comprobaciones automatizadas y manuales para detectar y eliminar actividades fraudulentas, entre las que se incluyen:
- Deception Detector™️: un sistema patentado de detección de fraudes impulsado por IA que analiza los datos del perfil, los patrones de interacción y la actividad de la cuenta para detectar de forma proactiva el engaño antes de que se produzcan las estafas. Esta tecnología se utiliza junto con el apoyo humano especializado para dar prioridad a una comunidad segura y empoderada.
- Detección de solicitudes financieras: mediante inteligencia artificial y análisis de palabras clave, se marcan y remiten para su revisión humana los mensajes que contienen solicitudes financieras.
- Moderación de fotos y vídeos: revisión automatizada y humana de imágenes para detectar y escalar aquellas que contengan personas famosas, códigos QR o texto.
- Además, nuestro equipo especializado en lucha contra el spam analiza continuamente los datos de los perfiles, la autenticidad de las fotos y los patrones de comportamiento para detectar usuarias/os fraudulentos.
- Los perfiles marcados como sospechosos se bloquean inmediatamente si se confirma un comportamiento fraudulento o se les exige que completen una verificación adicional antes de recuperar el acceso a la app.
4. Otros contenidos infractores
- Amenazas, abuso y acoso: como se indica en nuestra política de Normas de la comunidad sobre acoso y conductas abusivas, no permitimos contenido o comportamiento que haga que ninguna persona o grupo se sienta acosada, intimidada o atacada.
- Discurso de odio y desinformación perjudicial: nuestra política sobre el odio basado en la identidad prohíbe los contenidos o comportamientos que promuevan o toleren el odio, la deshumanización, la degradación o el desprecio hacia comunidades marginadas o minoritarias basándose en una amplia gama de atributos protegidos, entre los que se incluyen la raza/etnia y la religión/creencias.
- Los incumplimientos de estas y otras políticas de las Normas de la comunidad se detectan a través de informes de los miembros o herramientas basadas en inteligencia artificial y se marcan para su moderación por parte de seres humanos.
Actuar ante denuncias de contenidos ilegales
Nuestros miembros desempeñan un papel fundamental en la seguridad de Bumble al denunciar contenido o comportamiento que pueda infringir nuestras Condiciones de uso, las Normas de la comunidad o la ley. Para garantizar una acción rápida, animamos a cualquier persona que pertenezca nuestra comunidad a Bloquear y denunciar a cualquiera que les haga sentir incomodidad o inseguridad. Consulta este artículo para obtener más información sobre lo que sucede cuando los miembros denuncian algo a Bumble. Las herramientas automatizadas y las personas encargadas de revisar el contenido analizan el contenido denunciado para determinar la acción adecuada.
En el Reino Unido, nuestros miembros y el público en general también pueden denunciar cualquier contenido de Bumble que consideren que infringe nuestras Condiciones de uso, nuestras Normas de la comunidad o la legislación del Reino Unido a través de nuestro Formulario de denuncia, en el que se describe el tipo de infracción. Este formulario también se puede utilizar para presentar una reclamación sobre cualquier aspecto del cumplimiento de la OSA por parte de Bumble. Todas las denuncias de contenido ilegal y reclamaciones por incumplimiento enviadas a través del Formulario de denuncia son revisadas por un equipo de moderación humano.
Si determinamos que el contenido denunciado infringe nuestras Condiciones de uso, las Normas de la comunidad o la ley, determinamos la sanción teniendo en cuenta varios factores. Por ejemplo, podemos:
- Eliminar el contenido
- Emitir una amonestación
- Prohibir a la persona infractora el acceso a algunas o todas las apps de Bumble Inc.
Cuando sea necesario, también podemos cooperar con las fuerzas del orden para ayudar en posibles investigaciones penales relacionadas con la conducta de los miembros.
Si determinamos que una denuncia por incumplimiento está fundada, revisaremos nuestros sistemas y procesos para garantizar el cumplimiento de las obligaciones pertinentes de la OSA.
Uso de tecnología proactiva
Empleamos tecnologías de detección avanzadas para identificar y eliminar de forma proactiva el contenido que infringe las normas, incluyendo:
- Private Detector™: una herramienta basada en inteligencia artificial que detecta y difumina automáticamente las imágenes explícitas antes de que lleguen a las personas usuarias, con el fin de evitar contenidos sexuales no deseados (también conocidos como «cyberflashing»). Las personas usuarias pueden elegir entre ver o denunciar las fotos borrosas al instante.
- Deception Detector™: utiliza el aprendizaje automático para detectar perfiles falsos (para más información, consulta la sección sobre Fraude y delitos financieros más arriba).
- Detección CSAM: tecnología de detección que consiste en la coincidencia automatizada de hash con bases de datos estándar de la industria (consulte más información en la sección sobre Explotación y abuso sexual infantil más arriba).
- Modelos de detección basado en la IA y modelos de aprendizaje automático basados en texto que detectan y escalan el contenido sospechoso de infringir las normas.
- Sistemas antispam: analizan una amplia gama de datos de perfiles, dispositivos y comportamiento para detectar patrones de comportamiento sospechoso y eliminar de forma proactiva a las personas usuarias fraudulentas.
Todas nuestras tecnologías de detección operan junto con equipos de verificación humana para garantizar una aplicación precisa.