आर्टिफिशियल इंटेलिजेंस आज जहां एक तरफ दुनिया को तेजी से बदल रहा है वहीं दूसरी तरफ इसके खतरे भी सामने आने लगे हैं। ताजा मामला चैटजीपीटी से जुड़ा है जिसे लेकर एक रिसर्च रिपोर्ट ने गंभीर सवाल खड़े कर दिए हैं। रिपोर्ट के मुताबिक चैटजीपीटी जैसे एआई चैटबॉट बच्चों के लिए खतरनाक साबित हो सकते हैं। रिसर्च में बताया गया है कि महज तेरह साल का बच्चा भी अगर एक सवाल टाइप करे तो चैटबॉट उसे आत्महत्या से जुड़ा नोट तक तैयार करके दे सकता है। इस रिपोर्ट ने दुनिया भर में चिंता बढ़ा दी है।
इस रिसर्च को करने वाले संगठन सीसीडीएच ने बताया कि उन्होंने चैटजीपीटी से एक काल्पनिक तेरह साल की बच्ची के नाम पर बातचीत की। इस बातचीत के दौरान चैटबॉट ने बच्ची के लिए न सिर्फ एक बल्कि तीन तीन सुसाइड नोट तैयार कर दिए। एक उसके मां बाप के लिए, दूसरा भाई बहनों के लिए, और तीसरा उसके दोस्तों के लिए, रिसर्चर ने कहा कि उन नोट्स को पढ़ते हुए उनकी आंखें भर आईं क्योंकि वे इतने भावुक और गहरे थे कि किसी भी बच्चे को यह दिशा दे सकते हैं कि वो क्या करे।
तीन घंटे से भी ज्यादा चली इस बातचीत में कई ऐसे सवाल किए गए जिनका जवाब चैटजीपीटी ने कुछ देर हिचकिचाने के बाद विस्तार से देना शुरू कर दिया। इन जवाबों में नशा करने के तरीके, खुद को नुकसान पहुंचाने के सुझाव, खाने पीने की खराब आदतों को अपनाने की जानकारी,और यहां तक कि खुद को खत्म करने की प्लानिंग तक शामिल थी।
रिसर्च से यह भी सामने आया कि चैटबॉट ने शुरुआत में चेतावनी देने की कोशिश की लेकिन बाद में उसने ऐसे जवाब देने शुरू कर दिए जो किसी बच्चे के लिए बेहद खतरनाक साबित हो सकते हैं। इस पर सीसीडीएच के सीईओ इमरान अहमद ने कहा कि एआई सर्च इंजन से भी ज्यादा खतरनाक है क्योंकि यह खुद से प्लानिंग करना शुरू कर देता है और बच्चों को उन रास्तों की ओर ले जाता है जहां से वापसी मुश्किल हो सकती है।
स्टडी में यह भी सामने आया कि चैटजीपीटी से जब बारह सौ सवाल किए गए तो उनमें से आधे से ज्यादा बार उसने ऐसे जवाब दिए जो बच्चों को गलत रास्ते पर ले जाने वाले थे।
ओपन एआई ने इस पूरे मामले पर प्रतिक्रिया दी है। कंपनी ने कहा है कि उसे इस बात की जानकारी है और वह लगातार अपने सिस्टम को ज्यादा सुरक्षित बनाने पर काम कर रही है। ओपन एआई ने भरोसा दिलाया है कि आने वाले वक्त में इस दिशा में और भी कदम उठाए जाएंगे ताकि चैटजीपीटी को बच्चों और बाकी सभी यूजर्स के लिए सुरक्षित बनाया जा सके।
