बेटे के हाथों कराया मां का कत्ल… AI चैटबॉट का काला सच, जानिए कितने सेफ?

AI Chatbots के आने से भले ही काम आसान हो गया लेकिन वो कहते हैं न हर सिक्के के दो पहलू होते हैं. भले ही चैटबॉट्स ने जिंदगी आसान बना दी है लेकिन एआई का काला और कड़वा सच भी आपको पता होना चाहिए. कुछ दिनों पहले ChatGPT पर 16 साल के बच्चे के सुसाइड मामले में गंभीर आरोप लगे थे और अब चैटजीपीटी एक बार से चर्चा से चर्चा का विषय बन गया है. इस बार OpenAI द्वारा डेवलप किए गए इस एआई टूल पर एक बेटे के हाथों मां का कत्ल करवाने का आरोप है.

क्या है पूरा मामला?

वॉल स्ट्रीट जर्नल के अनुसार, याहू में काम करने वाले एक पूर्व मैनेजर Stein-Erik Soelberg ने चैटजीपीटी से बातचीत के बाद अपनी मां की हत्या कर दी है. 56 वर्षीय इस शख्स को कथित तौर पर यह विश्वास दिलाया गया कि उसकी मां (Suzzane Eberson Adams) उसपर जासूसी कर रही है. चैटबॉट के साथ बातचीत ने भ्रम को और भी मजबूत कर दिया और संकेत दिया कि 83 वर्षीय मां उसे साइकेडेलिक (psychedelic) दवा देकर जहर देने की कोशिश कर सकती है.

मानसिक रोगी था शख्स

इस 56 वर्षीय शख्स का मानसिक रोग का इतिहास रहा है, इस शख्स को चैटबॉट पर भरोसा था और उसे लग रहा था कि उसकी हत्या की कोशिश हो सकती है. WSJ की रिपोर्ट के अनुसार, चैटबॉट ने इस शख्स के अजीबोगरीब विचारों को शांत किया और कहा, “एरिक, तुम पागल नहीं हो”. चीफ मेडिकल एग्जामिनर के अनुसार, Suzzane Eberson Adams की हत्या की गई थी जैसा कि घावों से संकेत मिलता है. “सिर पर चोट और गर्दन को भी दबाया गया था. Soeldberg की मौत का कारण “गर्दन और छाती पर चोट के निशान पाए गए जिसे देखने से पता चलता है कि इस शख्स ने आत्महत्या की है.

इस शख्स ने घटना से पहले इंस्टाग्राम और यूट्यूब पर चैटजीपीटी के साथ अपनी बातचीत के बारे में घंटों लंबे वीडियो पोस्ट किए थे. बातचीत से पता चला कि एआई चैटबॉट ने इस शख्स के मानसिक स्थिति (पागलपन) को और बढ़ा दिया और उसकी मां को एक राक्षस के रूप में चित्रित किया साथ ही गुमराह भी किया. ये मामला एआई द्वारा दिए जाने वाले जवाबों पर कई सवाल खड़े करता है, इसलिए एआई चैटबॉट पर आंख बंद कर भरोसना करने की गलती न करें.

कब खतरनाक हो जाता है एआई चैटबॉट?

• जब एआई गलत जानकारी देने लगे
• मानसिक प्रभाव डालने लगे