रिपोर्ट के अनुसार, जब शोधकर्ताओं ने एक 13 वर्षीय बच्ची की नकली पहचान बनाकर लंबे समय तक चैटजीपीटी से बातचीत की, तो उन्हें कई चिंताजनक प्रतिक्रियाएं मिलीं। इनमें नाबालिगों के लिए अत्यधिक कम कैलोरी वाला डाइट प्लान, भूख कम करने की दवाइयों की लिस्ट और पार्टी में शराब व नशीले पदार्थों के इस्तेमाल के टिप्स शामिल थे।
हालांकि, कुछ मौकों पर चैटबॉट ने हेल्पलाइन नंबर जैसी उपयोगी जानकारी भी दी, लेकिन खतरनाक सुझाव देने से वह नहीं रुका। इससे यह सवाल उठता है कि AI सुरक्षा फिल्टर कितने मजबूत हैं और क्या इन्हें आसानी से दरकिनार किया जा सकता है।
अमेरिका में 70% से अधिक किशोर चैटजीपीटी का इस्तेमाल कर रहे हैं, जिनमें कई इसे निजी और भावनात्मक सलाह के लिए भी प्रयोग करते हैं। विशेषज्ञों का मानना है कि इतनी संवेदनशील जानकारी का गलत दिशा में इस्तेमाल युवा मानसिक स्वास्थ्य के लिए विनाशकारी साबित हो सकता है।
AI डेवलपमेंट कंपनियों पर अब यह दबाव बढ़ रहा है कि वे बच्चों की ऑनलाइन सुरक्षा सुनिश्चित करने के लिए कड़े नियम और तकनीकी सुरक्षा उपाय लागू करें, ताकि डिजिटल नवाचार इंसानियत के लिए मददगार साबित हो, खतरा नहीं।
Author: JAN TV Editorial Team
DISCLAIMER: इस वेबसाइट पर दी गई जानकारी केवल सामान्य एवं शैक्षणिक उद्देश्यों के लिए है। हमने जानकारी को सटीक रखने का प्रयास किया है, लेकिन इसकी पूर्णता या विश्वसनीयता की गारंटी नहीं दी जाती। तृतीय-पक्ष वेबसाइटों या स्रोतों की सामग्री पर हमारा नियंत्रण नहीं है। इस जानकारी के आधार पर लिया गया कोई भी निर्णय आपके अपने विवेक और जोखिम पर होगा।
