अमेरिका में एक युवक की आत्महत्या के बाद विवाद में आई OpenAI ने अपने AI चैटबॉट ChatGPT में बदलाव की बात कही है. कंपनी का कहना है कि वह ChatGPT में पैरेंटल कंट्रोल्स और नए सुरक्षा उपाय शामिल करेगी. OpenAI ने कहा कि लोग ChatGPT के जरिए न सिर्फ कोडिंग, सर्च और राइटिंग कर रहे हैं बल्कि इसके साथ गहन निजी बातचीत भी कर रहे हैं. इसलिए इससे कई जोखिम पैदा हो रहे हैं और इनका समाधान करना जरूरी है.
OpenAI पर हुआ था मुकदमा
अमेरिका में मैथ्यू और मारिया रेने ने OpenAI के खिलाफ मुकदमा दायर किया था. इन्होंने ChatGPT को अपने 16 वर्षीय बेटे एडम की आत्महत्या के लिए जिम्मेदार ठहराया है. इनका आरोप है कि एडम ने आत्महत्या से पहले कई महीनों तक ChatGPT के साथ चैटिंग की थी. इस चैटबॉट ने एडम के विचारों को वैलिडेट किया और उसे खुद को नुकसान पहुंचाने के तरीके भी बताए. सिर्फ इतना ही नहीं, चैटबॉट ने उसके लिए एक सुसाइड नोट भी लिखा. एडम के घर वालों का कहना है कि OpenAI ने बिना पर्याप्त सुरक्षा उपायों के GPT-4o को लॉन्च किया था. उन्होंने कंपनी से मुआवजे के साथ-साथ ChatGPT यूजर्स की उम्र वेरिफाई करने और चैटबॉट पर अत्याधिक निर्भरता को लेकर यूजर्स को चेतावनी देने जैसे उपायों की मांग की है.
कंपनी ने क्या कहा?
OpenAI के प्रवक्ता ने एडम की मौत पर दुख जताते हुए कहा कि ChatGPT में सुरक्षा उपाय किए गए हैं, जो ऐसे मामलों में लोगों को सुसाइड प्रिवेंशन हॉटलाइन पर रिडायरेक्ट कर देते हैं. हालांकि, कई बार लंबी बातचीत में ये ठीक से काम नहीं कर पाते. इस कमी को पूरा करने की कोशिश की जा रही है. अब यूजर्स को इमरजेंसी सर्विसेस तक पहुंचने के लिए वन-क्लिक एक्सेस मिलेगी और परेशानी से जूझ रहे लोगों को ChatGPT के जरिए ही लाइसेंस प्राप्त थैरेपिस्ट से कनेक्ट किया जाएगा. 18 साल से कम यूजर्स के लिए पैरेंटल कंट्रोल लागू किया जाएगा.
ये भी पढ़ें-
