ChatGPT पर बच्चे क्या पूछ रहे हैं, अब पैरेंट्स को भी मिलेगी खबर! OpenAI ने बदले सुरक्षा नियम

OpenAI ने ChatGPT पर बच्चों के लिए हथियारों और हिंसा से जुड़े नियम सख्त किए। लगातार हिंसक बातचीत पर पैरेंट्स को अलर्ट मिल सकता है।

OpenAI ने 18 साल से कम उम्र के यूजर्स के लिए ChatGPT के सुरक्षा नियम सख्त करने का फैसला किया है। नए नियमों के तहत बच्चों को हथियारों के इस्तेमाल और सिक्योरिटी सिस्टम से जुड़ी ऐसी जानकारी नहीं दी जाएगी, जिसका गलत इस्तेमाल हो सकता है। हिंसा से संबंधित लगातार बातचीत होने पर चैट रोकी जा सकती है और माता-पिता को इसकी सूचना भी दी जा सकती है। कंपनी इन सुरक्षा सुविधाओं को चरणबद्ध तरीके से लागू करेगी।

ChatGPT पर बच्चों की सुरक्षा के लिए OpenAI का बड़ा कदम

आज के समय में बच्चे पढ़ाई, सामान्य जानकारी और अपने सवालों के जवाब पाने के लिए आर्टिफिशियल इंटेलिजेंस (AI) टूल्स का इस्तेमाल कर रहे हैं। ChatGPT भी ऐसे ही टूल्स में शामिल है। हालांकि, AI से प्राप्त जानकारी का दुरुपयोग होने की आशंका को देखते हुए OpenAI ने नाबालिग यूजर्स के लिए सुरक्षा व्यवस्था को और मजबूत करने का फैसला किया है।

कंपनी के नए नियमों के अनुसार, 18 वर्ष से कम उम्र के यूजर्स को हथियारों और सुरक्षा प्रणालियों से जुड़ी ऐसी जानकारी नहीं दी जाएगी, जिसका इस्तेमाल किसी व्यक्ति को नुकसान पहुंचाने के लिए किया जा सकता है। इन प्रतिबंधों का दायरा पहले के मुकाबले बढ़ाया गया है। कुछ ऐसे सवालों के जवाब भी सीमित किए जा सकते हैं, जो सामान्य परिस्थितियों में जानकारी हासिल करने के उद्देश्य से पूछे जाते हैं।

इस कदम का उद्देश्य बच्चों को ऐसी संवेदनशील जानकारी तक पहुंचने से रोकना है, जिसका इस्तेमाल हिंसा या किसी अन्य नुकसानदायक गतिविधि में किया जा सकता है।

हथियारों से जुड़े सवालों पर अब और सख्त होंगे ChatGPT के नियम

OpenAI के मुताबिक, ChatGPT पर पहले से ही बच्चों को हथियार खरीदने, उन्हें हासिल करने या हिंसा की योजना बनाने में सहायता देने की अनुमति नहीं थी। अब कंपनी ने सुरक्षा नियमों का दायरा बढ़ाते हुए हथियारों के इस्तेमाल और सिक्योरिटी सिस्टम से जुड़ी संवेदनशील जानकारी को भी इसके दायरे में शामिल किया है।

नए प्रावधानों के तहत ऐसी जानकारी उपलब्ध कराने पर रोक रहेगी, जिसका गलत इस्तेमाल करके किसी को नुकसान पहुंचाया जा सकता है। इसका मतलब है कि केवल हथियार हासिल करने या हिंसा की योजना बनाने से जुड़े सवाल ही नहीं, बल्कि हथियारों के उपयोग और सुरक्षा व्यवस्थाओं से संबंधित कुछ विस्तृत जानकारियों पर भी प्रतिबंध लगाया जाएगा।

इस तरह OpenAI बच्चों के लिए ChatGPT के जवाबों को अधिक सुरक्षित बनाने की दिशा में कदम उठा रही है। हालांकि, उपलब्ध जानकारी के अनुसार, यह रोक हर तरह के सवाल पर नहीं होगी, बल्कि उन जानकारियों पर केंद्रित रहेगी जिनका इस्तेमाल नुकसान पहुंचाने के लिए किया जा सकता है।

हिंसा रोकने और मुश्किल हालात से निकलने में मिलेगी मदद

हथियारों और हिंसा से जुड़ी संवेदनशील जानकारी पर प्रतिबंध लगाने के बावजूद ChatGPT बच्चों को हर तरह की सहायता देने से इनकार नहीं करेगा। यदि कोई बच्चा हिंसा रोकने, किसी विवाद को शांत करने या किसी मुश्किल परिस्थिति से सुरक्षित बाहर निकलने का तरीका पूछता है, तो उसे मदद मिल सकेगी।

ऐसी स्थितियों में ChatGPT बच्चे को विवाद सुलझाने और हिंसा से बचने के लिए उपयोगी जानकारी दे सकता है। जरूरत पड़ने पर उसे किसी भरोसेमंद वयस्क से बात करने की सलाह भी दी जाएगी।

इस व्यवस्था का उद्देश्य नुकसान पहुंचाने वाली गतिविधियों में मदद देने और हिंसा से बचने के लिए सहायता उपलब्ध कराने के बीच अंतर बनाए रखना है। यानी हिंसा को बढ़ावा देने वाली जानकारी सीमित की जाएगी, जबकि किसी परेशानी या विवाद से सुरक्षित तरीके से निपटने के लिए मदद उपलब्ध रह सकती है।

बार-बार हिंसा से जुड़े सवाल पूछने पर बंद हो सकती है चैट

OpenAI ने लगातार हिंसा से संबंधित बातचीत करने वाले यूजर्स के लिए भी सख्त कदम तय किए हैं। यदि कोई यूजर बार-बार हिंसा से जुड़ी बातें करता है, तो ChatGPT बातचीत को बीच में ही रोक सकता है।

अगर ऐसा व्यवहार लगातार दोहराया जाता है, तो कंपनी संबंधित अकाउंट को कुछ समय के लिए निलंबित भी कर सकती है। इस तरह के कदमों का उद्देश्य उन बातचीतों को सीमित करना है, जिनमें लगातार हिंसा से संबंधित विषय सामने आते हैं।

हालांकि, उपलब्ध जानकारी में अकाउंट निलंबित करने के लिए किसी निश्चित संख्या में सवाल पूछने या बातचीत की कोई तय सीमा का उल्लेख नहीं किया गया है। इसलिए यह व्यवस्था लगातार हिंसा से जुड़ी बातचीत की स्थिति में लागू हो सकती है।

सिर्फ बच्चों के लिए नहीं, सभी उम्र के यूजर्स पर लागू होंगे कुछ प्रतिबंध

OpenAI के नए सुरक्षा नियमों का दायरा केवल नाबालिगों तक सीमित नहीं है। कंपनी ने कुछ प्रतिबंध सभी उम्र के यूजर्स के लिए भी लागू करने का फैसला किया है।

इसके तहत पुराने बड़े हमलों में इस्तेमाल किए गए हथियारों और उपकरणों के बारे में अत्यधिक विस्तृत जानकारी उपलब्ध नहीं कराई जाएगी। इसके अलावा, ऐसे हथियारों या उपकरणों को हासिल करने के तरीकों से संबंधित जानकारी भी सीमित रखी जाएगी।

इस बदलाव का मतलब है कि वयस्क यूजर्स भी कुछ संवेदनशील सवालों पर पहले जैसी विस्तृत जानकारी प्राप्त नहीं कर सकेंगे। हालांकि, इन प्रतिबंधों का संबंध खास तौर पर उन जानकारियों से है, जिनका इस्तेमाल नुकसान पहुंचाने के लिए किया जा सकता है।

बच्चों की उम्र का अनुमान लगाने के लिए ChatGPT कैसे करेगा काम?

OpenAI यूजर्स की उम्र का अनुमान लगाने के लिए उनके व्यवहार और ChatGPT इस्तेमाल करने के तरीके को भी देखेगी। यदि सिस्टम को लगता है कि कोई यूजर 18 साल से कम उम्र का है, तो उसे किशोरों के लिए तैयार किए गए ChatGPT संस्करण पर भेज दिया जाएगा।

इस व्यवस्था के तहत यूजर की उम्र को ध्यान में रखते हुए सुरक्षा नियम लागू किए जा सकेंगे। इसका उद्देश्य नाबालिगों को उनकी उम्र के अनुरूप सुरक्षा उपलब्ध कराना है।

यदि सिस्टम किसी वयस्क यूजर को गलती से नाबालिग समझ लेता है, तो उसके पास अपनी उम्र साबित करने का विकल्प भी होगा। इसके लिए Persona का इस्तेमाल किया जा सकेगा। उम्र की पुष्टि होने पर गलत पहचान से जुड़ी समस्या को दूर करने का रास्ता उपलब्ध रहेगा।

हिंसा से जुड़ी बातचीत पर माता-पिता को मिल सकता है अलर्ट

नए नियमों में माता-पिता को सूचना देने की व्यवस्था भी शामिल है। यदि किसी बच्चे की हिंसा से संबंधित लगातार बातचीत पर रोक लगाई जाती है, तो उसके माता-पिता को इसकी जानकारी दी जा सकती है।

इसका अर्थ है कि कुछ परिस्थितियों में बच्चों की ChatGPT गतिविधियों से जुड़ा सुरक्षा अलर्ट अभिभावकों तक भी पहुंच सकता है। इससे माता-पिता को अपने बच्चे से जुड़ी ऐसी स्थिति की जानकारी मिल सकती है, जिसमें हिंसा से संबंधित बातचीत को रोकने के लिए हस्तक्षेप किया गया हो।

हालांकि, उपलब्ध जानकारी में यह स्पष्ट नहीं किया गया है कि माता-पिता को किस तरह की सूचना भेजी जाएगी या हर मामले में अलर्ट दिया जाएगा। खबर के अनुसार, ऐसी सूचना दिए जाने की संभावना उन स्थितियों में है, जहां बच्चे की हिंसा से जुड़ी लगातार बातचीत पर रोक लगाई जाती है।

2026 की तीसरी तिमाही में 200 से ज्यादा मामले कानून प्रवर्तन एजेंसियों तक पहुंचे

OpenAI के अनुसार, 2026 की तीसरी तिमाही में हिंसा से जुड़े गंभीर सवालों के आधार पर 200 से अधिक मामलों को कानून प्रवर्तन एजेंसियों तक पहुंचाया गया।

यह आंकड़ा कंपनी की ओर से बताए गए ऐसे मामलों से संबंधित है, जिनमें हिंसा से जुड़े सवाल गंभीर माने गए। हालांकि, उपलब्ध जानकारी में इन मामलों की प्रकृति, उनमें शामिल यूजर्स की संख्या या संबंधित एजेंसियों की ओर से की गई कार्रवाई का विस्तृत ब्योरा नहीं दिया गया है।

इस जानकारी के साथ कंपनी ने अपने सुरक्षा उपायों को मजबूत करने की दिशा में नए बदलावों की घोषणा की है। इनमें नाबालिगों के लिए अतिरिक्त प्रतिबंध, लगातार हिंसा से जुड़ी बातचीत को रोकने की व्यवस्था और जरूरत पड़ने पर माता-पिता को सूचना देने जैसे प्रावधान शामिल हैं।

आने वाले हफ्तों में सभी यूजर्स तक पहुंचेंगे नए सुरक्षा फीचर्स

OpenAI के मुताबिक, नए सुरक्षा फीचर्स को आने वाले कुछ हफ्तों में धीरे-धीरे सभी यूजर्स के लिए जारी किया जाएगा। इसका मतलब है कि इन सुविधाओं को एक साथ सभी अकाउंट पर लागू करने के बजाय चरणबद्ध तरीके से उपलब्ध कराया जाएगा।

नए बदलावों में बच्चों के लिए हथियारों और हिंसा से संबंधित संवेदनशील जानकारी पर नियंत्रण, उम्र का अनुमान लगाने की व्यवस्था, बार-बार हिंसा से जुड़ी बातचीत होने पर कार्रवाई और माता-पिता को सूचना देने की सुविधा शामिल है।

कंपनी की योजना के तहत ChatGPT का इस्तेमाल करने वाले नाबालिगों के लिए सुरक्षा नियम अधिक सख्त होंगे, जबकि कुछ प्रतिबंध वयस्क यूजर्स पर भी लागू किए जाएंगे। इन सुविधाओं को आने वाले हफ्तों में जारी किए जाने के साथ ChatGPT की सुरक्षा व्यवस्था में ये बदलाव शामिल हो जाएंगे।