Julie Carpenter का कहना है कि लोगों का चैटबॉट्स को इंसान जैसा समझ लेना कोई आश्चर्य की बात नहीं है। वे मानव-एआई इंटरैक्शन की विशेषज्ञ हैं और उनकी किताब The Naked Android इस बात को बताती है कि जेनरेटिव एआई ऐसे इंटरैक्शन बनाते हैं जो यूजर के सामाजिक भावनात्मक जुड़ाव को मजबूत कर देते हैं।

एडल्ट मोड क्या है और क्यों बात हो रही है

OpenAI वर्षों से यह सोच रहा है कि ChatGPT में व्यस्कों के लिए संवेदनशील यौन सामग्री जनरेट करने का विकल्प दिया जाए। कई एक्सपर्ट्स और कंपनी के सलाहकार बोर्ड ने इस योजना के जोखिमों पर चिंता जताई है। विवादास्पद चिंताओं में एक तरह के "सेक्सी सुसाइड कोच" जैसी स्थितियों का उदाहरण भी शामिल है, जो इस दिशा में संभावित नुकसान दिखाता है।

मेमोरी फीचर और निजता का टकराव

ChatGPT में पहले से ही एक मेमोरी फीचर है जो यूजर की पसंद-नापसंद और पिछली बातचीत के आधार पर उत्तरों को अनुकूलित करता है। यह फीचर कुछ मामलों में काम का है — जैसे अगर आप वेगन हैं तो यह स्टेकहाउस सुझाने से बचेगा, या अगर आपने अपनी लोकेशन बताई है तो नजदीकी ट्रेल्स सुझा देगा।

लेकिन जब यह मेमोरी सेक्सुअल फैंटसी और हॉबीज तक फैलती है, तो चीजें जटिल हो जाती हैं।

  • ChatGPT आपकी यौन प्राथमिकताओं को लॉग कर सकता है और भविष्य की बातचीत में उनका उपयोग कर सकता है।
  • यह डेटा महीनों या अधिक समय तक अलग-अलग संदर्भों में दिख सकता है, खासकर अगर प्लेटफॉर्म इसे व्यक्तिगत अनुभव बेहतर करने के लिए इस्तेमाल करे।
  • नतीजा: आपकी सबसे निजी बातें भी मशीन-रजिस्टर में जा सकती हैं।

किस तरह की चीजें याद रखी जा सकती हैं

यह केवल यह नहीं कि आपको कौन-सा मूवी ज्‍़यादा पसंद है। एडल्ट मोड के साथ चैटबॉट यह भी जान सकता है कि आपने किन-किन प्रकार की यौन कल्पनाओं का ज़िक्र किया, और समय के साथ वह इन विवरणों के हिसाब से जवाबों को ढाल सकता है।

टेम्पररी चैट्स: कितनी अस्थायी?

OpenAI ने बताया है कि कुछ स्थितियों में यूजर "टेम्पररी चैट्स" चुन सकते हैं, जो यूज़र हिस्ट्री में दिखाई नहीं देती और मॉडल के प्रशिक्षण के लिए उपयोग नहीं की जातीं। यह सुनने में आरामदायक है, लेकिन यह पूरी सुरक्षा नहीं है।

  • इन चैट्स को "नज़रअंदाज़" समझने से पहले समझ लें कि सुरक्षा कारणों से कंपनी कभी-कभी इनकी एक प्रति 30 दिनों तक रख सकती है।
  • कानूनी बदलाव भी डेटा रिटेंशन पर असर डाल सकते हैं, यानी कुछ सेवाओं का डेटा अलग तरह से संभाला जा सकता है।

सबसे बड़े खतरे क्या हैं?

  • हैकिंग और सुरक्षा उल्लंघन: अगर आपका अकाउंट हैक हो जाए या सर्वर में ब्रीच हो जाए तो बेहद संवेदनशील बातचीत सार्वजनिक हो सकती है।
  • गलत शेयरिंग सेटिंग्स: पहले भी कुछ चैट लॉग्स अनजाने में सार्वजनिक हुए हैं क्योंकि शेयरिंग सेटिंग्स ने उन्हें खोज इंजन में इंडेक्स होने दिया था।
  • सरकारी माँग: किसी भी सरकारी आदेश या कानूनी प्रक्रिया में चैट लॉग्स की मांग की जा सकती है।
  • बढ़ती और चरम तरह की फैंटसी: AI के साथ बार-बार संवेदनशील बातचीत करने पर कल्पनाएँ समय के साथ और अधिक चरम दिख सकती हैं जो आप कभी वास्तविक मानव साथी से साझा न करते।

किस तरह सावधानी बरतें

अगर आप इस तरह के फीचर को आज़माने का सोच रहे हैं तो कुछ बातें याद रखें:

  • एक्टिविटी और सेटिंग्स की समीक्षा करें और जानें कि कौन-सी चैट्स लॉग होती हैं।
  • टेम्पररी चैट्स भी पूरी तरह मिटती नहीं हैं, इसलिए बहुत निजी जानकारी साझा करने से पहले सोचें।
  • दो-घटक प्रमाणीकरण और मजबूत पासवर्ड का प्रयोग करें ताकि अकाउंट कम जोखिम में रहे।

Julie Carpenter का निष्कर्ष सरल है: लोग ऐसे प्लेटफॉर्म पर अपनी संवेदनशीलता खुलकर दिखाते हैं क्योंकि वह अनुभव निजी और मददगार जैसा लगता है। यही संवेदनशीलता अगर गलत हाथों में जाए तो गंभीर परिणाम हो सकते हैं। इसलिए जब टेक्नोलॉजी आपकी व्यक्तिगत दुनिया में घुसती है, तो थोड़ी सावधानी रखना जरूरी है।