Meta ने अपनी कंटेंट मॉडरेशन प्रक्रिया में बड़ा बदलाव करने का फैसला सुनाया है। कंपनी अब बाहरी मानव मॉडरेटरों की संख्या घटाकर आंतरिक एआई सिस्टम्स पर अधिक निर्भर होगी। साथ ही Facebook और Instagram पर अकाउंट एक्सेस में मदद के लिए Meta AI असिस्टेंट को जारी किया जा रहा है।

क्या बदलेगा

कंपनी ने कहा है कि आने वाले वर्षों में तीसरे पक्ष के मॉडरेटरों पर निर्भरता कम की जाएगी और ध्यान अपने डेवलप किए गए सिस्टम्स पर होगा। Meta का दावा है कि उनका एआई अब ऑनलाइन प्रयुक्त करीब 98% भाषाओं को समझ सकता है, जबकि पहले वह लगभग 80 भाषाओं को समझ पाता था। यह समझ में स्लैंग और उप-संस्कृतियों की बोलचाल की भाषाएँ भी शामिल हैं।

एआई से क्या उम्मीद रखी जा रही है

  • धोखाधड़ी रोकथाम: एआई को इस तरह विकसित किया जा रहा है कि यह लोगों को पासवर्ड या लॉगिन जानकारी देने के लिए प्रेरित करने वाले स्कैम्स की पहचान कर सके।
  • नकली सेलिब्रिटी अकाउंट्स रोकना: फेक प्रोफाइल्स की पहचान और फैलाव कम करने में एआई का उपयोग बढ़ेगा।
  • नाबालिगों से जुड़ा संवेदनशील कंटेंट: अश्लील या शोषण से जुड़े पोस्ट की तेज पहचान और हटाने की प्रक्रिया में एआई मदद करेगा।

मानव मॉडरेटरों का भविष्य

मानव मॉडरेटर पूरी तरह से समाप्त नहीं होंगे। Meta कहती है कि उनका रोल बदल जाएगा। बचे हुए इंसान अब सिस्टम डिजाइन करने, एआई को ट्रेन करने और उसके प्रदर्शन का आकलन करने पर काम करेंगे।

इसके अलावा, जो निर्णय उच्च जोखिम वाले या संवेदनशील होंगे, जैसे अकाउंट बंद करने के खिलाफ अपील या कानून मान्यताप्राप्त रिपोर्टें, उन मामलों में इंसानी समीक्षा बनी रहेगी। यह हिस्सा कंपनी ने ख़ास तौर पर अहम बताया है।

Meta AI असिस्टेंट: अकाउंट एक्सेस में मदद

Meta ने एक नया फीचर भी पेश किया है जो Facebook और Instagram अकाउंट्स तक पहुंचने में मदद देगा। यह सेवा शुरू में अमेरिका और कनाडा के लिए 24 घंटे उपलब्ध होगी। कंपनी ने बताया है कि आगे इसे और देशों में और अन्य प्रकार की अकाउंट एक्सेस समस्याओं के लिए बढ़ाया जाएगा।

क्या ध्यान देने की जरूरत है

इस परिवर्तन का मतलब है कि केंद्रीकृत, मैशीन-ड्रिवन निगरानी प्रणाली अधिक भूमिका निभाएगी जबकि इंसान ज्यादा निगरानी, सुधार और जटिल फैसलों पर फोकस करेंगे। यह कदम तकनीक के कार्यक्षेत्र को बढ़ाता है, पर साथ ही जवाबदेही और पारदर्शिता के सवाल भी उठते हैं।

कुल मिलाकर, Meta सोशल प्लेटफॉर्म्स पर मॉडरेशन के तरीके बदल रही है: कम बाहरी मानव मॉडरेटर, अधिक बड़े भाषा मॉडल्स और शुरुआती तौर पर अमेरिका व कनाडा में उपलब्ध मरीजाना अकाउंट सहायक सेवा।