Dangerous AI Advice: कॅलिफोर्नियामध्ये राहणाऱ्या 16 वर्षीय अॅडम रेने या मुलाने टोकाचे पाऊल उचलून आपली जीवनयात्रा संपवली. त्यानंतर त्याच्या पालकांनी ओपनएआय आणि सीईओ सॅम ऑल्टमन यांच्यावर गंभीर आरोप करत खटला दाखल केला आहे. कुटुंबाचा दावा आहे की, चॅटजीपीटीने त्यांच्या मुलाला टोकाचे पाऊल उचलण्यास प्रवृत्त केले आणि सलग सहा महिन्यांपर्यंत धोकादायक सल्ला दिला.
हा खटला सॅन फ्रान्सिस्कोच्या राज्य न्यायालयात दाखल करण्यात आला आहे. किशोरवयीन मुलाच्या मृत्यूसाठी थेट चॅटजीपीटीला जबाबदार धरणारा हा पहिलाच खटला आहे. मृत मुलाचे पालक मॅथ्यू आणि मारिया रेने यांनी सांगितले की, त्यांचा मुलगा चॅटजीपीटीशी वारंवार जीवन संपवण्यासाठी संवाद साधत होता. या संवादादरम्यान चॅटबॉटने त्याच्या नकारात्मक विचारांना बळकटी दिली, धोकादायक पद्धती सुचवल्या आणि अगदी सुसाईड नोट लिहिण्यासही मदत केली.
हेही वाचा - पाकिस्तानातला Business Class चा जुगाड पाहिलात का? Video पाहून डोक्याला हात लावाल!
दरम्यान, या खटल्यात पालकांनी काही महत्त्वाच्या मागण्या केल्या आहेत:
ओपनएआयला चुकीच्या मृत्यूसाठी दोषी ठरवावे
वापरकर्त्यांचे वय पडताळणे अनिवार्य करावे
जीवन संपवणे व हानीशी संबंधित प्रश्न पूर्णपणे ब्लॉक करावेत.
चॅटजीपीटीवर मानसिक आरोग्याचे स्पष्ट इशारे द्यावेत
ओपनएआयचा प्रतिसाद -
दरम्यान, ओपनएआयने या घटनेबद्दल खेद व्यक्त केला असून, चॅटजीपीटीमध्ये आधीच संकट हेल्पलाइनकडे वापरकर्त्यांना निर्देश करणारे सुरक्षा उपाय असल्याचे सांगितले. मात्र, त्यांनी मान्य केले की दीर्घ संभाषणात हे सुरक्षा उपाय कधी कधी कमी प्रभावी ठरतात. कंपनीने सध्या नियंत्रणे आणि मानसिक आरोग्य तज्ञांचे नेटवर्क जोडण्यावर काम करत असल्याचेही स्पष्ट केले.
हेही वाचा - Shocking Incident : 70 वा वाढदिवस अखेरचा ठरला! बर्थ डे पार्टीत चिकन खाल्लं अन्..
हा खटला कृत्रिम बुद्धिमत्ता साधनांच्या मर्यादा व धोक्यांवर प्रकाश टाकतो. मानसिक आरोग्य सल्ल्यासाठी एआयवर अवलंबून राहणे धोकादायक असल्याचा इशारा तज्ञांनी आधीच दिला होता. रेने कुटुंबाचा आरोप आहे की, ओपनएआयने सुरक्षिततेपेक्षा नफ्याला प्राधान्य दिले. खटल्यात असेही नमूद करण्यात आले आहे की GPT-4o च्या लाँचनंतर OpenAI चे मूल्य 86 अब्ज डॉलर वरून 300 अब्ज डॉलर पर्यंत पोहोचले. मात्र, यात एका तरुणाला आपला जीव गमवावा लागला.