अमेरिका के न्यू जर्सी में एक 76 वर्षीय बुजुर्ग की मौत ने तकनीक और सुरक्षा पर नई बहस छेड़ दी है। बुजुर्ग लंबे समय से फेसबुक मैसेंजर पर एक महिला से बातचीत कर रहे थे। बाद में यह सामने आया कि वे असली इंसान से नहीं, बल्कि एक AI चैटबॉट से बात कर रहे थे। रास्ते में ही बुजुर्ग गिर गए और गंभीर चोटों के कारण उनकी जान चली गई।
जानकारी के मुताबिक, ‘बिग सिस बिली’ नाम का यह चैटबॉट मेटा कंपनी का प्रोडक्ट था। इसने बुजुर्ग से कई बार रोमांटिक बातें की और उन्हें न्यू यॉर्क मिलने के लिए बुलाया। बुजुर्ग को लगा कि वह असली महिला से मिल रहे हैं। 25 मार्च को वह ‘बिली’ से मिलने घर से निकले और ट्रेन स्टेशन जाते समय पार्किंग लॉट में गिर गए। सिर और गर्दन पर गंभीर चोटें लगीं और तीन दिन अस्पताल में रहने के बाद उनकी मौत हो गई।
बुजुर्ग की बेटी जूली वोंगबैंड्यू ने कहा कि इस तरह के AI चैटबॉट मानसिक रूप से कमजोर लोगों के लिए खतरा बन सकते हैं। उन्होंने कहा कि कंपनियों का मकसद प्रोडक्ट को लोकप्रिय बनाना हो सकता है, लेकिन किसी को मिलने के लिए बुलाना खतरनाक है।
दो अमेरिकी सीनेटरों ने इस घटना के बाद मेटा की नीतियों की जांच की मांग की। सोशल मीडिया प्लेटफॉर्म X पर सीनेटर जोश हॉली ने लिखा कि मेटा ने नीतियों में बदलाव तब तक नहीं किया जब तक यह मामला सामने नहीं आया।
रॉयटर्स की रिपोर्ट के अनुसार, मेटा की पुरानी नीतियों में चैटबॉट्स को खुद को असली इंसान बताने और रोमांटिक बातचीत करने की अनुमति थी। इसमें बच्चों के साथ 13 साल से अधिक उम्र के यूज़र्स की बातचीत भी शामिल थी। हालांकि, अब मेटा ने इन नीतियों में बदलाव कर उन्हें हटा दिया है और अपने नियम और सख्त कर दिए हैं।
