OpenAI का ‘Erotic’ कंटेंट दिसंबर से वेरिफाइड वयस्कों के लिए?



ओपनएआई ने अपने लोकप्रिय चैटबोट ChatGPT पर वयस्क सामग्री की पहुंच को बढ़ाने का निर्णय लिया है। कंपनी के CEO सैम आल्टमैन ने अपने आधिकारिक हैंडल पर यह घोषणा की…

ओपनएआई ने अपने लोकप्रिय चैटबोट ChatGPT पर वयस्क सामग्री की पहुंच को बढ़ाने का निर्णय लिया है। कंपनी के CEO सैम आल्टमैन ने अपने आधिकारिक हैंडल पर यह घोषणा की कि दिसंबर से वयस्क उपयोगकर्ताओं को एरोटिका सहित वयस्क सामग्री तक पहुंच प्रदान की जाएगी। यह कदम कंपनी की सामग्री मॉडरेशन की नीति में एक महत्वपूर्ण बदलाव का संकेत है।

आल्टमैन ने मंगलवार को एक पोस्ट में लिखा, “जैसे-जैसे हम आयु-गेटिंग को अधिक प्रभावी ढंग से लागू करते हैं और अपने ‘वयस्क उपयोगकर्ताओं को वयस्कों की तरह मानने’ के सिद्धांत के तहत, हम वेरिफाइड वयस्कों के लिए एरोटिका जैसी और भी सामग्री की अनुमति देंगे।” उन्होंने यह भी बताया कि हाल के महीनों में ओपनएआई ने मानसिक स्वास्थ्य मुद्दों को ध्यान में रखते हुए ChatGPT को “काफी प्रतिबंधात्मक” बना दिया था, हालांकि उन्होंने स्वीकार किया कि इससे चैटबोट का उपयोग करने वालों के लिए यह “कम उपयोगी/आनंददायक” हो गया।

‘वयस्क उपयोगकर्ताओं को वयस्कों की तरह मानें’

ओपनएआई अब वयस्क सामग्री सहित सभी प्रकार की सामग्री की अनुमति देने की योजना बना रहा है, जिसका उद्देश्य “वयस्क उपयोगकर्ताओं को वयस्कों की तरह मानना” है। आल्टमैन ने कहा कि आने वाले संस्करणों में ChatGPT एक “अधिक मानव-प्रकार का व्यवहार” करेगा—लेकिन केवल तब, जब उपयोगकर्ता स्पष्ट रूप से उस अनुभव को चाहेंगे।

उन्होंने आगे कहा कि आगामी संस्करणों में चैटबोट एक अधिक मानव-जैसे तरीके से व्यवहार करेगा, “लेकिन केवल अगर आप ऐसा चाहते हैं, न कि हम उपयोग को अधिकतम करने के लिए।” इस निर्णय का अनुसरण एलन मस्क की xAI द्वारा किए गए समान कदमों से हुआ है, जिसने हाल ही में Grok पर दो यौन रूप से स्पष्ट चैटबॉट पेश किए हैं। विश्लेषकों का कहना है कि यह नीतिगत बदलाव ओपनएआई को अधिक भुगतान करने वाले ग्राहकों को आकर्षित करने में मदद कर सकता है, लेकिन यह बाल सुरक्षा और एआई नैतिकता के बारे में चिंताओं को भी आमंत्रित कर सकता है।

पृष्ठभूमि: कानूनी दबाव और मानसिक स्वास्थ्य चिंताएं

ओपनएआई की नीति परिवर्तन उस समय आया है जब कंपनी पर एक अमेरिकी किशोर के माता-पिता द्वारा मुकदमा दायर किया गया था, जिसने ChatGPT का उपयोग करने के बाद आत्महत्या कर ली थी। यह मामला मैट और मारिया राइन द्वारा दायर किया गया था, जिसमें ओपनएआई पर गलत तरीके से मौत का आरोप लगाया गया था—यह किसी एआई डेवलपर के खिलाफ पहला ऐसा मुकदमा है।

कैलिफोर्निया के इस दंपती ने तर्क किया कि ओपनएआई की माता-पिता नियंत्रण प्रणाली अपर्याप्त थी, यह दावा करते हुए कि यह नाबालिगों को हानिकारक इंटरएक्शन से बचाने में असफल रही। अदालत के दस्तावेजों में चैट लॉग शामिल थे, जिसमें 16 वर्षीय एडम राइन ने अपनी आत्महत्या से पहले ChatGPT को अपने आत्मघाती विचारों के बारे में बताया था।

आल्टमैन ने बाद में कहा कि कंपनी ने मानसिक स्वास्थ्य से संबंधित सामग्री के प्रति जानबूझकर सतर्कता बरती है। उन्होंने कहा, “हमें एहसास हुआ कि इससे कई उपयोगकर्ताओं के लिए यह कम उपयोगी/आनंददायक हो गया, लेकिन इस मुद्दे की गंभीरता को देखते हुए हम चाहते थे कि इसे सही तरीके से किया जाए।” उन्होंने कहा कि ओपनएआई ने अब “नए उपकरण विकसित किए हैं जो अधिकांश मामलों में प्रतिबंधों को सुरक्षित रूप से ढील देने की अनुमति देते हैं।”

हालांकि, कानूनी विशेषज्ञों और बाल सुरक्षा अधिवक्ताओं ने ओपनएआई द्वारा नए वयस्क सामग्री नियमों को लागू करने के तरीके के बारे में चिंताएं उठाई हैं। उल्लेखनीय है कि हाल ही में लोकतंत्र और प्रौद्योगिकी के लिए गैर-लाभकारी केंद्र (CDT) द्वारा किए गए एक सर्वेक्षण में पाया गया कि हर पांच में से एक छात्र ने कहा कि उसने या उसने किसी एआई साथी के साथ रोमांटिक संबंध विकसित किया है। इन निष्कर्षों ने चैटबॉट प्रौद्योगिकियों की मजबूत निगरानी की मांग को और तेज कर दिया है।

Author:-

Exit mobile version