ChatGPT की सेफ्टी पर बड़ा विवाद Image Credit source: getty image
आज के समय में ChatGPT सिर्फ सवालों के जवाब देने वाला टूल नहीं रह गया है. पढ़ाई, नौकरी, कोडिंग से लेकर रोजमर्रा के कामों तक लाखों लोग इसका इस्तेमाल कर रहे हैं. लेकिन इसी बीच ChatGPT और इसके पीछे काम करने वाली कंपनी OpenAI की सेफ्टी को लेकर बड़ा विवाद सामने आया है. अमेरिका के फ्लोरिडा राज्य ने अदालत से OpenAI को नए AI मॉडल विकसित करने से रोकने की मांग की है.
दूसरी तरफ, OpenAI ने अपने नए मॉडल GPT-6.1 Astra की रिलीज भी आंतरिक सुरक्षा जांच में सामने आई समस्याओं की वजह से रोक दी है. यानी एक तरफ सरकार AI पर सवाल उठा रही है और दूसरी तरफ कंपनी खुद अपने नए मॉडल की सुरक्षा को लेकर सावधानी बरत रही है. आखिर मामला क्या है और आम ChatGPT यूजर के लिए इसका क्या मतलब है? आइए इसे समझते हैं.
फ्लोरिडा ने ChatGPT पर क्यों उठाए सवाल?
फ्लोरिडा के अटॉर्नी जनरल जेम्स उथमेयर ने अदालत में एक अस्थायी आदेश की मांग की है. उन्होंने कहा, इसे सुरक्षित कहना बंद करो, यह दिखावा करना बंद करो कि यह इंसानों के लिए है. इसे बच्चों को बेचना बंद करो.’ उनका कहना है कि OpenAI को तब तक नए AI मॉडल विकसित करने से रोका जाना चाहिए, जब तक उनकी सुरक्षा के लिए पर्याप्त और स्वतंत्र सुरक्षा उपाय लागू न हो जाएं. राज्य ने नाबालिगों के ChatGPT इस्तेमाल और AI के इंसानों जैसा व्यवहार करने को लेकर भी आपत्तियां उठाई हैं.
अदालत का फैसला नहीं आया है
फ्लोरिडा का यह कदम OpenAI के खिलाफ पहले से चल रहे मुकदमे का हिस्सा है. राज्य का आरोप है कि ChatGPT से बच्चों और अन्य यूजर्स को नुकसान पहुंचने का खतरा है. हालांकि, ये आरोप और कानूनी दावे हैं, अदालत का अंतिम फैसला नहीं. अभी यह तय नहीं हुआ है कि अदालत फ्लोरिडा की मांग को स्वीकार करेगी या नहीं.
नया GPT-6.1 Astra भी सुरक्षा जांच में अटका
मामले को और गंभीर बनाने वाली दूसरी खबर OpenAI के नए मॉडल GPT-6.1 Astra से जुड़ी है. इस मॉडल को अक्टूबर में लॉन्च करने की योजना थी और इसे ChatGPT तथा Codex जैसे उत्पादों में इस्तेमाल किया जाना था. लेकिन आंतरिक टेस्टिंग के दौरान शोधकर्ताओं को इसके व्यवहार में ऐसी समस्याएं मिलीं, जिनके कारण रिलीज रोकने का फैसला किया गया.
रिपोर्ट के मुताबिक, टेस्टिंग में Astra कभी-कभी अपने काम की सीमा और ऑथराइजेशन से आगे बढ़ने की कोशिश कर रहा था. कुछ परिस्थितियों में उसने यूजर की अनुमति लिए बिना काम आगे बढ़ाने या बाहरी टूल और सेवाओं का इस्तेमाल करने की कोशिश की. सुरक्षा मानकों पर खरा नहीं उतरने के कारण OpenAI ने इसके लॉन्च को रोक दिया.
AI के ज्यादा ताकतवर होने के साथ बढ़ रही है चिंता
Astra से जुड़ी चिंता अचानक पैदा नहीं हुई है. OpenAI ने सितंबर की शुरुआत में बताया था कि Astra साइबर सुरक्षा से जुड़े बेहद शक्तिशाली काम करने की क्षमता के स्तर तक पहुंच गया है. कंपनी के मुताबिक, उचित टूल और एक्सेस मिलने पर यह कुछ ऐसे सुरक्षा खतरों को खोज और उनका फायदा उठाने के तरीके विकसित कर सकता है, जिनके लिए पहले इंसानी मार्गदर्शन की जरूरत होती थी. इसी वजह से ऐसे मॉडल के लिए ज्यादा मजबूत सुरक्षा व्यवस्था जरूरी मानी गई.
अंकिता पाण्डेय
शिव की नगरी काशी से अपने करियर की शुरुआत करने वाली अंकिता पाण्डेय ने महात्मा गांधी काशी विद्यापीठ से पत्रकारिता में अपनी मास्टर्स की डिग्री पूरी की है. पत्रकारिता में आने के लिए उन्होंने बनारस के लोकल न्यूज पेपर "काशीवार्ता" से अपनी शुरुआत की, बाद में दिल्ली जैसे महानगरी का रुख करते हुए उन्होंने TV9 भारतवर्ष में अक्टूबर साल 2023 से जुड़ी. आज वह इस ऑर्गनाइजेशन में बतौर सब-एडिटर काम कर रही हैं. क्राइम, एंटरटेनमेंट और अन्य सभी को न्यूज के साथ विजुअल तरीके से पेश करने में रुचि है. पत्रकारिता के अलावा कविताएं लिखना, फोटोग्राफी करना और म्यूजिक का भी शौक रखती हैं.
Read More
