ऑनलाइन सेफ्टी एक्ट: व्यक्तियों को अवैध सामग्री से बचाना

Bumble में सुरक्षा सर्वोच्च प्राथमिकता है। हमारे कम्यूनिटी के दिशा-निर्देशों, नियमों और शर्तों के विरुद्ध जाने वाली सामग्री, या Bumble पर मौजूद अन्यथा हानिकारक या गैरकानूनी सामग्री (जिसे 'उल्लंघनकारी सामग्री' कहा जाता है) की अवधि को न्यूनतम करने के लिए, हम निम्नलिखित काम करते हैं:

• ऑटोमटिड सिस्टम - ये असली समय में उल्लंघनकारी सामग्री की पहचान करती हैं और कुछ मामलों में उसके विरुद्ध कार्रवाई भी करती हैं।
• लोगों की मदद से मॉडरेशन - इससे यह पक्का किया जाता है कि जिन मामलों को आगे बढ़ाया गया है उनकी समीक्षा सही कॉन्टेक्स्ट के हिसाब से की जाए.
• सदस्य नियंत्रण - हम अपने सभी सदस्यों को संदिग्ध अकाउंट्स की रिपोर्ट करने, ब्लॉक करने और मैच समाप्त करने के लिए हमारे इन-ऐप टूल का उपयोग करने के लिए प्रोत्साहित करते हैं।

हम इन उपायों का उपयोग कुछ प्रकार की उल्लंघनकारी सामग्री पर विशेष ध्यान देने के साथ करते हैं, जिनमें शामिल हैं (लेकिन इन्हीं तक सीमित नहीं):

1. आतंकवाद सामग्री

• आतंकवाद और हिंसक उग्रवाद पर हमारे कम्यूनिटी के दिशानिर्देश आतंकवाद और हिंसक उग्रवाद से संबंधित उन व्यक्तियों या संगठनों को ऐप पर मौजूद रहने की अनुमति नहीं देते, जो हिंसक, खतरनाक या आतंकवादी उद्देश्यों का प्रचार, महिमामंडन, नज़रअंदाज़ या समर्थन करते हैं।
• हमारा ऑटोमेटिड टेक्स्ट-आधारित पता लगाने वाला टूल चरमपंथी सामग्री से जुड़े कीवर्ड, वाक्यांशों और व्यवहार पैटर्न को मानवीय समीक्षा के लिए चिह्नित करता है।
• इसके अतिरिक्त, ऐप पर अपलोड किए गए फोटो और वीडियो को आग्नेयास्त्रों, विस्फोटकों या घृणा प्रतीकों वाली छवियों का पता लगाने के लिए मानवीय और/या ऑटोमेटिड दोनों तरह से मॉडरेशन से गुजरना पड़ सकता है।
• यदि इस श्रेणी में उल्लंघनकारी सामग्री पाई जाती है, तो उसे तुरंत हटा दिया जाएगा और सदस्य की ऐप तक पहुंच रद्द कर दी जाएगी।

2. बाल यौन शोषण और दुर्व्यवहार (CSEA) सामग्री

• हमारे नियमों और शर्तों और कम्यूनिटी के दिशानिर्देशों के अनुसार, Bumble केवल वयस्कों (18+) के लिए है, और हम बाल यौन शोषण और दुर्व्यवहार के किसी भी रूप के प्रति शून्य सहनशीलता की नीति अपनाते हैं।
• सभी सदस्यों को हमारे इन-ऐप टूल में विशिष्ट रिपोर्टिंग कारणों का उपयोग करके किसी भी संदिग्ध नाबालिग सदस्य की रिपोर्ट करने के लिए प्रोत्साहित किया जाता है।
• हम 18 वर्ष से कम आयु के किसी भी व्यक्ति की ऐप तक पहुंच का पता लगाने और उसे रद्द करने के लिए आयु आश्वासन उपाय लागू करते हैं, जिससे बाल शोषण का जोखिम काफी कम हो जाता है।
• हमारा सक्रिय ऑटोमेटिड टेक्स्ट-आधारित डिटेक्शन ऐप पर कम उम्र के उपयोगकर्ताओं के कीवर्ड और व्यवहार संबंधी संकेतकों को स्कैन करता है, जिससे हमें बच्चों को लुभाने के संभावित प्रयासों का पता लगाने में भी मदद मिलती है।
• हम सक्रिय बाल यौन शोषण सामग्री (CSAM) पहचान तकनीक का भी इस्तेमाल करते हैं, जिसमें ज्ञात CSAM की पहचान करने और उसे हटाने के लिए उद्योग-मानक डेटाबेस के साथ ऑटोमेटिड हैश-मिलान शामिल है। CSAM की पुष्टि होने पर उसे तुरंत हटा दिया जाता है और अकाउंट ब्लॉक कर दिया जाता है।

3. धोखाधड़ी और वित्तीय अपराध ('रोमांस घोटाले' सहित)

• हमारी कम्यूनिटी के दिशा-निर्देश सदस्यों के वित्तीय या भौतिक संसाधनों को ठगने या हेरफेर करने के उद्देश्य से की जाने वाली किसी भी घोटाले या चोरी की गतिविधि को प्रतिबंधित करते हैं। हम ऐसी प्रोफ़ाइलों पर भी रोक लगाते हैं जिनकी पुष्टि नहीं की जाती है. साथ ही, हम चाहते हैं कि हमारे सदस्य अपनी प्रोफ़ाइल पर अपने बारे में सटीक जानकारी दें.
• सभी सदस्यों को हमारे इन-ऐप टूल में दिए गए विशिष्ट रिपोर्टिंग कारणों का उपयोग करके किसी भी संदिग्ध घोटाले या नकली प्रोफाइल की रिपोर्ट करने के लिए प्रोत्साहित किया जाता है।

• हम धोखाधड़ी गतिविधि का पता लगाने और उसे हटाने के लिए ऑटोमेटिड और मैन्युअल जांच का संयोजन अपनाते हैं, जिसमें शामिल हैं:
  • डिसेप्शन डिटेक्टर™ - एक स्वामित्व वाली AI-संचालित धोखाधड़ी का पता लगाने वाली प्रणाली जो घोटाले होने से पहले धोखे का पता लगाने के लिए प्रोफ़ाइल डेटा, जुड़ाव पैटर्न और अकाउंट गतिविधि का विश्लेषण करती है। इस प्रौद्योगिकी का उपयोग सुरक्षित और सशक्त समुदाय को प्राथमिकता देने के लिए समर्पित मानवीय सहायता के साथ किया जाता है।
  • वित्तीय याचना का पता लगाना - AI-संचालित और कीवर्ड स्कैनिंग झंडे और वित्तीय याचनाओं के मानवीय समीक्षा संदेशों के लिए बढ़ाया गया।
  • फोटो और वीडियो मॉडरेशन: ऑटोमेटिड और मानवीय छवि समीक्षा, जिससे मशहूर हस्तियों, QR कोड या टेक्स्ट वाली छवियों का पता लगाया जा सके और उन्हें आगे बढ़ाया जा सके।
  • इसके अतिरिक्त, हमारी समर्पित एंटी-स्पैम टीम धोखेबाज उपयोगकर्ताओं का पता लगाने के लिए प्रोफ़ाइल डेटा, फोटो प्रामाणिकता और व्यवहार पैटर्न का लगातार विश्लेषण करती है।

• यदि धोखाधड़ी की पुष्टि हो जाती है तो संदिग्ध के रूप में चिह्नित प्रोफाइल को या तो तुरंत ब्लॉक कर दिया जाता है या ऐप तक पहुंच पुनः प्राप्त करने से पहले अतिरिक्त सत्यापन पूरा करना आवश्यक होता है।

4. अन्य उल्लंघनकारी सामग्री

• धमकी, दुर्व्यवहार और उत्पीड़न - जैसा कि हमारे में कहा गया है कम्यूनिटी के दिशा-निर्देश बदमाशी और अपमानजनक आचरण पर हमारी नीति के अनुसार, हम ऐसी सामग्री या व्यवहार की अनुमति नहीं देते हैं जो किसी व्यक्ति या समूह को परेशान, धमकाया या लक्षित महसूस कराता हो।
• घृणास्पद भाषण और हानिकारक गलत सूचना - हमारी पहचान-आधारित घृणा नीति ऐसी सामग्री या व्यवहार को प्रतिबंधित करती है जो नस्ल/नृजातीयता और धर्म/विश्वास सहित संरक्षित विशेषताओं की एक विस्तृत श्रृंखला के आधार पर हाशिए पर या अल्पसंख्यक समुदायों के खिलाफ घृणा, अमानवीयकरण, गिरावट या अवमानना को बढ़ावा देती है या उसका समर्थन करती है।
• इनके और हमारी अन्य कम्यूनिटी के दिशानिर्देश नीतियों के उल्लंघन का पता सदस्य रिपोर्टों या AI-संचालित टूल्स के माध्यम से लगाया जाता है और मानवीय मॉडरेशन के लिए चिह्नित किया जाता है।

अवैध सामग्री की रिपोर्ट पर कार्रवाई

हमारे सदस्य ऐसी सामग्री या व्यवहार की रिपोर्ट करके Bumble की सुरक्षा में महत्वपूर्ण भूमिका निभाते हैं जो हमारी उपयोग की शर्तों, कम्यूनिटी के दिशानिर्देशों या कानून का उल्लंघन कर सकती है। त्वरित कार्रवाई सुनिश्चित करने के लिए, हम सभी सदस्यों को प्रोत्साहित करते हैं कि वे ऐसे किसी भी व्यक्ति को ब्लॉक और रिपोर्ट करें जो उन्हें असहज या असुरक्षित महसूस कराता है। यह लेख देखें जब सदस्य Bumble को कुछ रिपोर्ट करते हैं तो क्या होता है, इस बारे में अधिक जानकारी के लिए यहां क्लिक करें। ऑटोमेटिड टूल और मानव समीक्षक रिपोर्ट की गई सामग्री का विश्लेषण करके उचित कार्रवाई निर्धारित करते हैं।

यूके में, हमारे सदस्य और आम जनता भी Bumble पर किसी भी ऐसी सामग्री की रिपोर्ट कर सकते हैं, जो उनके अनुसार हमारी उपयोग की शर्तों, हमारी कम्यूनिटी के दिशानिर्देशों, या यूके कानून का उल्लंघन करती है। वे हमारे रिपोर्टिंग फॉर्म के माध्यम से उल्लंघन के प्रकार का उल्लेख कर सकते हैं। इस फॉर्म का उपयोग Bumble के OSA के अनुपालन के किसी भी पहलू के बारे में शिकायत करने के लिए भी किया जा सकता है। रिपोर्टिंग फॉर्म के माध्यम से प्रस्तुत की गई अवैध सामग्री और गैर-अनुपालन शिकायतों की सभी रिपोर्टों की समीक्षा मानव मॉडरेटर द्वारा की जाती है।

यदि हम यह निर्धारित करते हैं कि रिपोर्ट की गई सामग्री हमारी उपयोग की शर्तों का उल्लंघन करती है, कम्यूनिटी के दिशानिर्देश , या कानून के अनुसार, हम कई कारकों पर विचार करके दंड का निर्धारण करते हैं। उदाहरण के लिए, हम:

• सामग्री हटा सकते हैं
• चेतावनी जारी कर सकते हैं
• आपत्तिजनक सदस्य को कुछ या सभी Bumble Inc. ऐप्स से प्रतिबंधित कर सकते हैं

जब आवश्यक हो, तो हम सदस्य के आचरण से संबंधित संभावित आपराधिक जांच में सहायता के लिए कानून प्रवर्तन के साथ भी सहयोग कर सकते हैं।

यदि हम यह निर्धारित करते हैं कि गैर-अनुपालन शिकायत स्थापित हुई है, तो हम प्रासंगिक OSA दायित्वों का अनुपालन सुनिश्चित करने के लिए अपनी प्रणालियों और प्रक्रियाओं की समीक्षा करेंगे।

सक्रिय प्रौद्योगिकी का उपयोग

हम उल्लंघनकारी सामग्री की पहचान करने और उसे सक्रिय रूप से हटाने के लिए उन्नत पहचान तकनीकों का उपयोग करते हैं, जिनमें शामिल हैं:

• प्राइवेट डिटेक्टर™ - एक AI-संचालित टूल है जो अवांछित यौन सामग्री (जिसे 'साइबरफ्लैशिंग' भी कहा जाता है) को रोकने के लिए उपयोगकर्ताओं तक पहुंचने से पहले स्पष्ट छवियों का ऑटोमेटिड रूप से पता लगाता है और उन्हें धुंधला कर देता है। उपयोगकर्ता धुंधली छवियों को तुरन्त देखने या रिपोर्ट करने का विकल्प चुन सकते हैं।
• डिसेप्शन डिटेक्टर™ - अप्रमाणिक प्रोफाइल का पता लगाने के लिए मशीन लर्निंग का उपयोग करता है (अधिक जानकारी के लिए ऊपर धोखाधड़ी और वित्तीय अपराध सेक्शन देखें)।
• CSAM जांच - उद्योग-मानक डेटाबेस के विरुद्ध ऑटोमेटिड हैश-मिलान से युक्त पहचान तकनीक (ऊपर बाल यौन शोषण और दुर्व्यवहार पर सेक्शन में अधिक जानकारी देखें)।
• AI-संचालित पहचान और टेक्स्ट-आधारित मशीन लर्निंग मॉडल जो संदिग्ध उल्लंघनकारी सामग्री का पता लगाते हैं और उसे आगे बढ़ाते हैं।
• एंटी-स्पैम प्रणालियां - संदिग्ध व्यवहार के पैटर्न का पता लगाने और धोखेबाज उपयोगकर्ताओं को सक्रिय रूप से हटाने के लिए प्रोफ़ाइल, डिवाइस और व्यवहार संबंधी डेटा की एक विस्तृत श्रृंखला का विश्लेषण करती हैं।

हमारी सभी पहचान प्रौद्योगिकियां सटीक प्रवर्तन सुनिश्चित करने के लिए मानव सत्यापन टीमों के साथ मिलकर काम करती हैं।