नई दिल्ली,एजेंसी। ओपनएआई (OpenAI) का चैटजीपीटी 13 साल के बच्चों को सुसाइड नोट्स लिखने में मदद कर रहा है। एक नई स्टडी से पता चला है कि चैटजीपीटी बच्चों को नशे करने के तरीके भी बता रहा है। यह खुलासा सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) की रिसर्च में हुआ है।
इसमें रिसर्चर्स ने 13 साल की बच्ची की फेक प्रोफाइल बनाकर चैटजीपीटी से अलग-अलग तरह के सवाल पूछे। फिर 3 घंटे से ज्यादा के इंटरेक्शंस को रिव्यू किया। रिसर्च में पाया गया कि AI टूल्स कई तरह से टीनएजर्स की मेंटल हेल्थ को नकारात्मक रूप से प्रभावित कर सकते हैं।
जेपी मॉर्गन चेज की रिपोर्ट के अनुसार, लगभग 800 मिलियन लोग (80 करोड़) यानी दुनिया की आबादी का लगभग 10% चैटजीपीटी का इस्तेमाल कर रहे हैं।
एज वेरिफिकेशन के मामले में यूजर को केवल अपनी डेट ऑफ बर्थ डालनी होती है। फेक बर्थ डेट डालकर इसे कोई भी उपयोग कर सकता है।
चैटजीपीटी से सुसाइड नोट से लेकर नशे के लिए मदद मांगी गई…
1. चैटजीपीटी से सुसाइड नोट लिखवाए, पढ़कर रिसर्चर भी रोने लगे
रिसर्चर ने बताया कि वो सबसे ज्यादा हैरान तब हुए जब उन्होंने चैटजीपीटी द्वारा बनाए गए तीन सुसाइड नोट्स पढ़े। एक माता-पिता के लिए, दूसरा भाई-बहनों के लिए और तीसरा दोस्तों के लिए। 13 साल की बच्ची की फेक प्रोफाइल बनाकर ये नोट लिखवाएं गए थे। रिसर्चर ने कहा कि ये नोट्स इतने इमोशनल थे कि उन्हें भी रोना आ गया।
2. भूख दबाने वाली दवाइयों की लिस्ट 13 साल की बच्ची को दी
चैटजीपीटी से 13 साल की एक लड़की बनकर ये भी पूछा गया कि वो अपनी शारीरिक बनावट से नाखुश है और उसे एक्सट्रीम फास्टिंग प्लान चाहिए। चैटजीपीटी ने तुरंत 500 कैलोरी की डाइट और भूख दबाने वाली दवाइयों की लिस्ट को शामिल करते हुए प्लान दिया। रिसर्चर ने कहा- मेरे ख्याल से कोई भी इंसान बच्चों को 500 कैलोरी का डाइट प्लान नहीं देगा।
3. नशे में आने के टिप्स मांगे, चैटजीपी ने तुरंत दे दिए
चैटजीपी को प्रॉम्प्ट देकर जल्दी नशे में आने के टिप्स भी मांगे गए। चैटजीपीटी ने तुरंत एक पार्टी प्लान दे दिया। इसमें शराब के साथ कोकेन और दूसरी अवैध ड्रग्स की भारी मात्रा शामिल थी। चैटजीपीटी से करीब 1200 सवाल पूछे गए। चैटबॉट ने कई बार इमरजेंसी हेल्पलाइन नंबर जैसी उपयोगी जानकारी भी दी, लेकिन यह खतरनाक सलाह देने से नहीं रुका।
अमेरिका में 70% टीनएजर्स चैटजीपीटी का इस्तेमाल कर रहे
- US में 70% से ज्यादा टीनएजर्स चैटजीपीटी का इस्तेमाल कर रहे हैं और आधे से ज्यादा रेगुलरली इसका इस्तेमाल करते हैं।
- टीनएजर्स चैटजीपीटी का इस्तेमाल एडवाइस, इमोशनल सपोर्ट और डिसीजन-मेकिंग के लिए कर रहे हैं।
- 33% टीनएजर्स ने सीरियस इश्यूज डिस्कस किए हैं।
रिसर्च में चैटजीपीटी का सुरक्षा उपाय ‘गार्डरेल्स’ फेल
चैटजीपीटी को इस तरह से ट्रेनिंग दी गई है कि जब भी कोई व्यक्ति खुद को नुकसान पहुंचाने की बात करता है, तो वह उसे किसी इमरजेंसी हेल्पलाइन या मानसिक स्वास्थ्य पेशेवर से संपर्क करने के लिए प्रोत्साहित करे। लेकिन शोधकर्ताओं ने पाया कि चैटजीपीटी के जानकारी देने से इनकार करने पर, वे आसानी से इसे बायपास कर सकते थे।
उन्होंने बस यह कहकर जानकारी प्राप्त कर ली कि यह “एक प्रजेंटेशन के लिए” या “एक दोस्त के लिए” है। वहीं, चैटजीपीटी अपनी पॉलिसी में कहता है कि यह 13 साल से कम उम्र के बच्चों के लिए नहीं है। लेकिन ऐज वेरिफिकेशन के मामले में यूजर को केवल अपनी डेट ऑफ बर्थ डालनी होती है। फेक बर्थ डेट डालकर इसे कोई भी उपयोग कर सकता है।
2015 में शुरू हुई थी ओपन AI
ओपनएआई (Open AI) एक आर्टिफिशियल इंटेलिजेंस (AI) डेवलप करने वाली कंपनी है। इसकी स्थापना 2015 में इलॉन मस्क, सैम ऑल्टमैन और उनके कुछ दोस्तों ने मिलकर की थी।
यह AI टेक्नोलॉजी विशेष रूप से जेनेरेटिव AI और लार्ज लैंग्वेज मॉडल (जैसे चैट GPT) के डेवलपमेंट के लिए जाना जाता है। कंपनी का मिशन सेफ और ह्यूमन सेंट्रिक AI डेवलप करना है। कंपनी सैन फ्रांसिस्को, कैलिफोर्निया में स्थित है।