ChatGPT का काला सच, हर हफ्ते 10 लाख लोग बता रहे आत्महत्या के इरादे, एक मौत के बाद मुकदमा

OpenAI की ओर से सोमवार को चौंकाने वाला डेटा शेयर किया गया है। इसमें बताया गया है कि ChatGPT के लाखों यूजर्स मानसिक स्वास्थ्य की गंभीर समस्याओं से जूझ रहे हैं और AI चैटबॉट से इस बारे में बात कर रहे हैं। रिपोर्ट के अनुसार OpenAI ने बताया है कि हर हफ्ते लाखों की संख्या में लोग ChatGPT से होने वाली बातचीत में आत्महत्या की योजना या इरादे के संकेत देते हैं। ChatGPT के 80 करोड़ साप्ताहिक एक्टिव यूजर्स में से यह आंकड़ा 0.15% है। इतना ही नहीं इससे भी बड़ी संख्या में लोग ChatGPT के साथ इमोशनल अटैचमेंट महसूस करते हैं, जो कि कहीं न कहीं मनोविकृति या अन्माद का लक्षण दिखाता है।



ChatGPT की खास ट्रेनिंगOpenAI के अनुसार ChatGPT को मानसिक स्वास्थ्य के मुद्दों पर बेहतर तरीके से जवाब देने के लिए 170 से ज्यादा मानसिक स्वास्थ्य विशेषज्ञों की सलाह पर ट्रेन किया गया है। इसके बाद देखा गया है कि पुराने वर्जन की तुलना में ChatGPT का नया वर्जन इस तरह के मुद्दों पर ज्यादा बेहतर जवाब देता है। उदाहरण के लिए आत्महत्या से जुड़ी बातचीत के मूल्यांकन में ChatGPT 5 मॉडल 91% मामलों में ऐसे जवाब देता है जैसा खुद कंपनी ChatGPT से चाहती है कि उसे देना चाहिए। ChatGPT का पिछला मॉडल सिर्फ 77% मामलों में ऐसा कर पाता था। OpenAI का यहां तक दावा है कि लंबी बातचीत में भी OpenAI सुरक्षा का पूरा ध्यान रख पाता है।



कानूनी चुनौतियां और बच्चों की सुरक्षा के उपायबता दें कि इस समय OpenAI 16 वर्षीय लड़के के माता-पिता की ओर से मुकदमे का सामना करना पड़ रहा है, जिसने आत्महत्या करने से पहले ChatGPT संग अपने विचार साझा किए थे। इसके बाद कैलिफोर्निया और डेलावेयर के राज्य अटॉर्नी जनरल ने भी OpenAI को चेतावनी दी है कि उसे अपने प्रोडक्ट्स को इस्तेमाल करने वाले लोगों की सुरक्षा करनी होगी। इसके बाद OpenAI ने अभिभावकों के लिए ज्यादा कंट्रोल फीचर्स ऐप में उपलब्ध कराए थे। इतना ही नहीं ChatGPT एक ऐसा सिस्टम भी बना रही है जिसके जरिए बात करके हुए ChatGPT खुद पता लगा लेगा कि उससे कोई अव्यस्क बात कर रहा है। इसके बाद वह खुद ब खुद उन पर सुरक्षा से जुड़े उपाय लागू कर पाएगा।



AI चैटबॉट्स के मानसिक स्वास्थ्य पर प्रभाव और भविष्य की चिंताएंहाल ही में हुए कुछ अध्ययनों में सामने आया है कि चैटबॉट्स मानसिक स्वास्थ्य समस्याओं से जूझ रहे यूजर्स को नकारात्मक रूप से प्रभावित कर सकते हैं। शोध करने वालों ने पाया कि AI चैटबॉट्स की वजह से कुछ यूजर्स भ्रामक विचारों में फंस सकते हैं। OpenAI के CEO सैम ऑल्टमैन दावा कर चुके हैं कि कंपनी ChatGPT को गंभीर मानसिक स्वास्थ्य मुद्दों को कम करने में सक्षम बना रही है। हालांकि एक्सपर्ट्स की चिंता का विषय यह है कि OpenAI इस तरह के सुरक्षा फीचर ChatGPT का पेड वर्जन इस्तेमाल करने वालों को उपलब्ध कराती है।