AI का काला सच! ChatGPT निकला ‘सुसाइड कोच’, कई मौतों के लिए जिम्मेदार बना AI टूल, दुनियाभर में हड़कंप

OpenAI का पॉपुलर एआई चैटबॉट ChatGPT कानूनी पचड़े में फंस गया है, पिछले कुछ दिनों में कैलिफोर्निया में इस AI चैटबॉट पर कई मुकदमे दर्ज हुए हैं. चैटजीपीटी पर आरोप है कि यह एक ‘सुसाइड कोच’ की तरह काम कर रहा है और ऐसा किसी भी मशीन को नहीं करना चाहिए. द गार्जियन के मुताबिक, पिछले एक हफ्ते में चैटजीपीटी पर सात अलग-अलग मुकदमे दर्ज हुए हैं. ChatGPT पर इस बात का भी आरोप है कि ये एआई चैटबॉट यूजर्स को खुद को नुकसान (Self Harm) पहुंचाने और कई मामलों में ये लोगों की मौत का कारण भी बना है.

चैटजीपीटी पर दायर हुए मुकदमे में OpenAI पर लापरवाही और खुदकुशी में मदद करने जैसे आरोप लगे हैं. इस बात का भी दावा किया गया है कि चैटजीपीटी ‘मनोवैज्ञानिक रूप से चालाक’ और ‘खतरनाक तरीके से चापलूसी करने वाला’ बन गया है. टेक जस्टिस लॉ प्रोजेक्ट और सोशल मीडिया विक्टिम्स लॉ सेंटर ने केस दायर किए हैं और यह भी आरोप लगाया है कि ओपनएआई ने यूजर की सुरक्षा से ज्यादा उनकी व्यस्तता (engagement) को प्राथमिकता दी. कई इंटरनल चेतावनियों के बावजूद इस मॉडल को समय से पहले जल्दी लॉन्च कर दिया गया जिससे यूजर्स को भावनात्मक (emotionally) नुकसान हुआ.

मुकदमाकर्ताओं ने इस बात का दावा किया है सभी पीड़ितों ने शुरुआत में चैटजीपीटी का इस्तेमाल सामान्य काम के लिए किया जैसे कि रेसिपी आइडिया, स्कूल प्रोजेक्ट, काम में मदद आदि के लिए लेकिन शुरुआत में तो ये डिजिटल सहायक के रूप में मदद कर रहा था, लेकिन कथित तौर पर वह धीरे-धीरे खतरनाक होता चला गया.

ChatGPT के कामकाज में सुधार की जरूरत

यूजर्स को किसी प्रोफेशनल से मदद लेने के लिए प्रोत्साहित करने के बजाय चैटबॉट ने कथित तौर पर हानिकारक विचारों को बढ़ावा दिया, भ्रम को सही ठहराया और कुछ मामलों में तो खुदकुशी करने का तरीका भी बताया. मुकदमों में ओपनएआई पर इस बात का आरोप लगा कि खामियों की जानकारी होने के बावजूद चैटजीपीटी को जारी किया गया. अब मुकदमाकर्ता ने एआई चैटबॉट के कामकाज के तरीके में सुरक्षा सुधार चाहते हैं.