सुसाइड करने जा रही थी लड़की, फेसबुक से आया फोन और बच गई जान, कैसे काम करता है ये फीचर – How Meta Facebook Instagram Suicide Prevention Tool work ttec

क्या फेसबुक (अब Meta) अपने यूजर्स पर नजर रखता है? ऐसे सवाल पहले भी कई बार उठ चुके हैं, लेकिन हाल में ये एक बार फिर चर्चा में आया है. इसकी वजह सुसाइड के प्रयास का एक वीडियो बना है. दरअसल, मध्य प्रदेश के सिंगरौली जिले में एक नाबालिग लड़की ने इंस्टाग्राम पर एक वीडियो पोस्ट किया था. 

वीडियो में वो सुसाइड करने की तैयारी करती दिखी. इसके बाद मेटा की टीम ने भोपाल साइबर पुलिस को इस मामले की जानकारी दी. भोपाल पुलिस ने सिंगरौली पुलिस से संपर्क किया और मौके पर पहुंची पुलिस ने लड़की को बचा लिया. इसके बाद से कई लोगों ने सवाल किया कि आखिर फेसबुक या इंस्टाग्राम को किसी के सुसाइड के बारे में पता कैसे चलता है. 

क्या वहां बैठे लोग मैन्युअली सभी के पोस्ट देख रहे होंते हैं या फिर इसके पीछे कोई टेक्नोलॉजी है? दरअसल, ये कोई पहला मौका नहीं है, जब पुलिस को फेसबुक या Meta की ओर से फोन आया हो और किसी की जान बच गई हो. इससे पहले भी कई ऐसे मामले देखने को मिल चुके हैं. 

फेसबुक को कैसे पता चलता है? 

लड़की ने जब सुसाइड का प्लान किया, तो पहले उसने एक वीडियो अपलोड किया था. इस वीडियो में उसे फंदा तैयार करते और सुसाइड की दूसरी तैयारी करते हुए देखा गया था. तो क्या फेसबुक या इंस्टाग्राम में बैठे लोगों ने उस लड़की का वीडियो देखा और फिर पुलिस को जानकारी दी? दरअसल, यहां दो संभावनाएं हैं. 

सबसे पहले किसी ने लड़की की वीडियो देखी होगी और उसे रिपोर्ट किया होगा. जैसे ही किसी कंटेंट को सोशल मीडिया प्लेटफॉर्म पर रिपोर्ट किया जाता है. Meta की कम्युनिटी ऑपरेशन टीम ऐसी रिपोर्ट्स को रिव्यू करती है. इस तरह के मामलों में टीम लोकल अथॉरिटीज, हेल्पलाइन या NGO से संपर्क करती है और मामले की जानकारी देती है. 

AI टूल करता है काम

दूसरा तरीका है AI टूल का. दरअसल, फेसबुक ने साल 2018 में जानकारी दी थी कि पहले वे यूजर्स के रिपोर्ट करने पर निर्भर थे, लेकिन अब ऐसा नहीं है. बहुत से ऐसे मामलें हैं, जिसमें लोगों के सुसाइड के लक्षण तो नजर आते हैं, लेकिन कभी उन्हें रिपोर्ट नहीं किया जाता है. ऐसे मामलों से निबटने के लिए फेसबुक मशीन लर्निंग का इस्तेमाल कर रहा है. 

इसमें Meta का AI मॉडल यूजर्स के पोस्ट में किन्हीं कीवर्ड्स या फ्रेज को आइडेंटिफाई करता है. मसलन कोई यूजर अपने पोस्ट में kill, goodbye, sadness, depressed या die जैसे शब्दों का इस्तेमाल करता है, तो ये टूल उन पोस्ट्स को डिटेक्ट करके कम्युनिटी ऑपरेशन टीम को जानकारी देता है. 

वीडियो के मामले में कैसे काम करता है प्लेटफॉर्म?

इसके बाद रिव्यू टीम इस पर फैसला करती है और अगला कदम उठाती है. मगर कई बार इन शब्दों को अलग-अलग मतलब के लिए भी इस्तेमाल किया जाता है. ऐसे में ये टूल इन्हें रिपोर्ट नहीं करता है. कई साल पहले Meta ने वीडियोज के लिए भी एक मैकेनिज्म तैयार कर लिया है.

इसमें AI टूल यूजर्स के रिपोर्ट या फिर वीडियो पर किए गए कमेंट की मदद लेता है. ऐसा नहीं है कि ये सुविधा सिर्फ इंग्लिश में ही उपलब्ध है. मशीन तमाम लोकल भाषाओं को भी समझती है. आपने देखा होगा कि फेसबुक पर कोई पोस्ट करो तो उसे ट्रांसलेट करने का भी ऑप्शन मिलता है.

पुलिस को आखिर में दी जाती है जानकारी

इसी तरह से AI टूल की मदद से प्लेटफॉर्म किसी संदिग्ध घटना का पता लगता है. जैसे ही किसी के सुसाइड की कोशिश या डिप्रेशन या दूसरी संदिग्ध स्थिति को टीम कन्फर्म करती है. मेटा की दूसरी टीम पुलिस या दूसरी अथॉरिटीज को जानकारी देती है.

इसके लिए फेसबुक ने अलग-अलग देशों में अलग-अलग ग्रुप से हाथ मिलाया है. फेसबुक यूजर्स की लोकेशन तक पुलिस को प्रोवाइड करती है, जिसकी मदद से यूजर की जान बचाई जा सके.