A segurança é uma prioridade máxima no Bumble. Para minimizar o tempo durante o qual conteúdos que possam violar as nossas Regras da Comunidade, Termos e Condições ou que sejam de outra forma prejudiciais ou ilegais permanecem no Bumble (designados como “Conteúdos em Violação”), recorremos a uma combinação de:
- Sistemas automatizados – identificam e, em alguns casos, tomam medidas contra Conteúdos em Violação em tempo real.
- Moderação por humanos – garante que os casos mais complexos sejam analisados com o contexto adequado.
- Ajuda dos membros – encorajamos todos os nossos membros a utilizarem as nossas ferramentas na aplicação para denunciar, bloquear e se desligarem de contas suspeitas.
Utilizamos estas medidas focando-nos particularmente em determinados tipos de Conteúdos em Violação, incluindo (mas não limitados a):
1. Conteúdo de terrorismo
- As nossas Regras da Comunidade sobre terrorismo e extremismo violento proíbem a presença na aplicação de indivíduos ou organizações que proclamem, glorifiquem, tolerem ou apoiem missões violentas, perigosas ou de natureza terrorista.
- O nosso sistema automatizado de deteção com base em texto sinaliza palavras-chave, expressões e padrões de comportamento associados a conteúdos extremistas que são posteriormente revistos por humanos.
- Além disso, as fotos e os vídeos carregados na aplicação podem ser sujeitos a moderação humana e/ou automatizada para detetar imagens que contenham armas de fogo, explosivos ou símbolos de ódio.
- No improvável caso de se confirmar a presença de Conteúdos em Violação desta categoria, estes serão prontamente removidos e o acesso do membro à aplicação será revogado.
2. Conteúdo com exploração e abuso sexual de crianças (CSEA)
- De acordo com os nossos Termos e Condições e Regras da Comunidade, o Bumble destina-se exclusivamente a adultos (maiores de 18 anos) e temos uma política de tolerância zero em relação a qualquer forma de exploração e abuso sexual de menores.
- Todos os membros são incentivados a comunicar qualquer suspeita da presença de utilizadores menores de idade, através das razões específicas disponibilizadas na ferramenta integrada na app.
- Implementamos medidas de verificação de idade concebidas para detetar e revogar o acesso à aplicação a quaisquer indivíduos com menos de 18 anos, reduzindo significativamente o risco de exploração de menores.
- O nosso sistema proativo de deteção automatizada com base em texto analisa palavras-chave e indicadores de comportamento associados a utilizadores menores de idade na aplicação, o que também nos ajuda a detetar possíveis tentativas de aliciamento de menores.
- Também utilizamos tecnologia proativa de deteção de Material de Abuso Sexual Infantil (CSAM), que consiste na correspondência automatizada de hashes com bases de dados reconhecidas pelo setor, para identificar e remover CSAM já conhecido. A deteção confirmada de CSAM resulta na remoção imediata do conteúdo e no bloqueio da conta.
3. Fraude e infrações Financeiras (incluindo “golpes românticos”)
- As nossas Regras da Comunidade proíbem qualquer atividade fraudulenta ou de roubo destinada a defraudar ou manipular os membros no que diz respeito a recursos financeiros ou materiais. Também proibimos perfis falso e temos como expectativa que todos os nossos membros se representem corretamente no seu perfil.
- Todos os membros são incentivados a denunciar quaisquer perfis suspeitos de fraude ou falsos, utilizando os motivos de denúncia específicos disponíveis na nossa ferramenta integrada na aplicação.
-
Utilizamos uma combinação de verificações automáticas e manuais para detetar e eliminar atividades fraudulentas, incluindo:
- O Deception Detector™ – um sistema proprietário de deteção de fraudes baseado em IA que analisa dados de perfis, padrões de interação e atividade da conta para identificar de forma proativa possíveis enganos antes que as burlas ocorram. Esta tecnologia é utilizada em conjunto com uma equipa de apoio humano dedicada, para dar prioridade a uma comunidade segura e que capacita os seus membros.
- Deteção de pedidos financeiros – análises baseada em IA e deteções de palavras-chave sinalizam mensagens com pedidos de apoio financeiro, que são posteriormente encaminhadas para revisão humana.
- Moderação de fotografias e vídeos: revisão automatizada e humana de imagens para detetar e classificar imagens que contenham celebridades, códigos QR ou texto.
- Além disso, a nossa equipa Anti-Spam dedicada analisa continuamente os dados de perfil, a autenticidade das fotografias e os padrões de comportamento para detetar utilizadores fraudulentos.
- Os perfis assinalados como suspeitos são imediatamente bloqueados se o comportamento fraudulento for confirmado ou serão sujeitos a uma verificação adicional antes de voltarem a ter acesso à aplicação.
4. Outros Conteúdos em Violação
- Ameaças, abuso e assédio – tal como indicado nas nossas Regras da Comunidade sobre Intimidação e Conduta Abusiva, não permitimos conteúdos ou comportamentos que façam com que qualquer indivíduo ou grupo se sinta assediado, intimidado ou visado.
- Discurso de ódio e desinformação prejudicial – a nossa política contra o Ódio com Base na Identidade proíbe conteúdos ou comportamentos que promovam ou justifiquem o ódio, a desumanização, a degradação ou o desprezo contra comunidades marginalizadas ou minoritárias, com base numa grande variedade de atributos protegidos, incluindo raça/etnia e religião/crenças.
- As violações destas políticas, bem como das restantes Regras da Comunidade são detetadas através de denúncias de membros ou de ferramentas baseadas em IA, sendo posteriormente sinalizadas para moderação humana.
Atuar em caso de denúncia de conteúdos ilegais
Os nossos membros desempenham um papel fundamental na segurança do Bumble ao denunciar conteúdos ou comportamentos que possam violar os nossos Termos de Utilização, Regras da Comunidade ou a lei. Para garantir a tomada de medidas rapidamente, incentivamos todos os membros a Bloquear e denunciar qualquer pessoa que os faça sentir desconfortáveis ou inseguros. Veja este artigo para mais informações sobre o que acontece quando os membros denunciam algo no Bumble. As ferramentas automatizadas e os revisores humanos analisam os conteúdos comunicados para determinar a ação adequada.
No Reino Unido, os nossos membros e o público em geral podem também denunciar qualquer conteúdo no Bumble que considerem violar os nossos Termos de Utilização, as nossas Regras da Comunidade ou a lei do Reino Unido através do nosso Formulário de denúncia, indicando o tipo de infração. Este formulário também pode ser utilizado para fazer reclamações sobre qualquer aspeto da conformidade do Bumble com a OSA. Todas as denúncias de conteúdos ilegais e queixas de incumprimento apresentadas através do Formulário de denúncia serão analisadas por moderadores humanos.
Se determinarmos que o conteúdo denunciado viola os nossos Termos de utilização, Regras da Comunidade ou a legislação aplicável, definiremos a penalização com base em vários fatores. Por exemplo, podemos:
- Remover o conteúdo
- Enviar um aviso
- Banir o membro ofensor de algumas ou todas as aplicações da Bumble Inc.
Em alguns casos, também poderemos cooperar com as autoridades para ajudar em potenciais investigações criminais relacionadas com a conduta dos membros.
Se determinarmos que uma denúncia de não conformidade foi fundamentada, procederemos à revisão dos nossos sistemas e processos para garantir o cumprimento das obrigações relevantes ao abrigo da OSA.
Utilização de tecnologia proativa
Utilizamos tecnologias de deteção avançadas para identificar e remover proativamente o Conteúdo em Violação, incluindo:
- Private Detetor™ - uma ferramenta baseada em IA que deteta e desfoca automaticamente imagens explícitas antes de estas chegarem aos utilizadores, para impedir a visualização de conteúdos sexuais indesejados (também conhecidos como "cyberflashing"). Os utilizadores podem optar por ver ou comunicar imediatamente as imagens desfocadas.
- Deception Detetor™ - utiliza a aprendizagem automática para detetar perfis falsos (veja mais informações na secção sobre Fraude e infrações financeiras acima).
- Deteção CSAM - tecnologia de deteção que consiste na correspondência automatizada de hashes com bases de dados reconhecidas pelo setor (consulte mais informações na secção sobre Exploração e Abuso Sexual Infantil acima).
- Deteção com base em IA e modelos de aprendizagem automática baseados em texto que detetam e encaminham conteúdos suspeitos de violação.
- Sistemas anti-spam – analisam uma vasta gama de dados de perfil, dispositivo e comportamento para detetar padrões de comportamento suspeito e remover proativamente utilizadores fraudulentos.
Todas as nossas tecnologias de deteção funcionam em conjunto com equipas de verificação humana para garantir uma execução rigorosa e precisa.