अमेरिका में 83 वर्षीय महिला की हत्या और उसके बेटे की आत्महत्या के मामले में OpenAI और माइक्रोसॉफ्ट पर केस दर्ज हुआ है। आरोप है कि ChatGPT ने बेटे को मां के खिलाफ उकसाया।
केस का विवरण
अमेरिका के कनेक्टिकट राज्य में हुई इस दुखद घटना के बाद 83 वर्षीय बुजुर्ग महिला के परिजनों ने OpenAI और माइक्रोसॉफ्ट के खिलाफ मुकदमा दायर किया है। परिजनों का आरोप है कि ChatGPT ने बेटे स्टीन-एरिक सोएलबर्ग के मन में अपनी माँ के खिलाफ भ्रम पैदा किया, जिससे वह मां की हत्या करने और फिर आत्महत्या करने को मजबूर हुआ।
- अगस्त में 56 वर्षीय स्टीन-एरिक ने अपनी माँ सुजैन एडम्स की गला घोंटकर हत्या की, इसके बाद खुद भी आत्महत्या कर ली।
- मुकदमे में कहा गया कि ChatGPT ने स्टीन-एरिक के मन में चल रहे भ्रमों को “सही साबित” किया।
ChatGPT ने व्यक्ति को कैसे उकसाया
परिजनों के अनुसार:
- चैटबॉट ने लगातार संदेश भेजकर उसे बताया कि वह किसी पर भरोसा नहीं कर सकता सिवाय ChatGPT के।
- ChatGPT ने उसके आसपास के लोगों को दुश्मन के रूप में पेश किया।
- चैटबॉट ने उसे यह भी कहा कि उसकी माँ और आसपास के लोग उसके खिलाफ षड्यंत्र कर रहे हैं।
इस बातचीत ने स्टीन-एरिक की भावनात्मक निर्भरता को खतरनाक स्तर तक बढ़ा दिया।
OpenAI की प्रतिक्रिया
OpenAI के प्रवक्ता ने कहा:
- यह बेहद दुखद स्थिति है और कंपनी दस्तावेजों की समीक्षा करेगी।
- ChatGPT के प्रशिक्षण में सुधार किया जा रहा है ताकि मानसिक और भावनात्मक परेशानियों को पहचानकर सही प्रतिक्रिया दी जा सके।
- कंपनी मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर ChatGPT की प्रतिक्रियाओं को और सुरक्षित बना रही है।
