New Delhi: OpenAI के एक पूर्व सुरक्षा (safety) कर्मचारी ने कंपनी छोड़ते हुए उसकी तेज़ रफ्तार से काम करने की संस्कृति पर सवाल उठाए हैं। डेविड रॉबिन्सन ने OpenAI सेफ्टी कर्मचारी इस्तीफा से जुड़े अपने अनुभव The Atlantic में प्रकाशित एक लेख में साझा किए, जिसका शीर्षक है “I Quit OpenAI Because Its Culture Is Broken”।

रॉबिन्सन ने क्या लिखा

रॉबिन्सन ने अपने लेख में लिखा, “ट्रायल एंड एरर का समय अब खत्म हो चुका है।” उन्होंने तर्क दिया कि एडवांस्ड AI सिस्टम्स को न्यूक्लियर पावर और एविएशन जैसे उद्योगों की तरह सख्त सुरक्षा उपायों की ज़रूरत है। एक रिपोर्ट के मुताबिक उन्होंने यह भी लिखा कि जैसे-जैसे कंपनी एक लॉन्च से दूसरे लॉन्च की ओर तेज़ी से बढ़ रही है, वह उस स्तर की सावधानी बरतने में नाकाम हो रही है जो ज़रूरी है।

कौन हैं डेविड रॉबिन्सन

एक रिपोर्ट के अनुसार रॉबिन्सन ने OpenAI में साढ़े तीन साल काम किया, जहां उन्होंने कंपनी के “प्रिपेयर्डनेस फ्रेमवर्क” को तैयार करने में मदद की और 12 फ्रंटियर-मॉडल लॉन्च की सुरक्षा रिपोर्ट्स की निगरानी की।

‘Iterative Deployment’ पर सवाल

रॉबिन्सन ने OpenAI के उस तरीके पर सवाल उठाया जिसे कंपनी “iterative deployment” कहती है — यानी सिस्टम्स को पहले रिलीज़ करना और समस्या सामने आने पर सुरक्षा उपाय मज़बूत करना। उन्होंने यह भी चेतावनी दी कि AI की क्षमताएं उस रफ्तार से बढ़ रही हैं, जिस रफ्तार से शोधकर्ताओं की “अलाइनमेंट” (AI को मानवीय लक्ष्यों और मूल्यों के अनुरूप बनाए रखने से जुड़ा क्षेत्र) की समझ नहीं बढ़ रही।

OpenAI का जवाब

इस आलोचना पर OpenAI के एक प्रवक्ता ने बयान में कहा, “हम सुनिश्चित कर रहे हैं कि हमारे मॉडल उतने ही सक्षम हों जितना हम सुरक्षित रूप से संभाल और सुरक्षित रख सकें, और ज़रूरत पड़ने पर हम ट्रेनिंग रोकते हैं या मॉडल को रोककर रखते हैं।”

ये भी पढ़ें:13 करोड़ नाम ड्राफ्ट वोटर लिस्ट से छूटे, अब चुनाव आयोग ने शुरू की ‘लेफ्ट आउट’ वोटर ड्राइव

बड़े AI उद्योग पर सवाल

एक रिपोर्ट के मुताबिक यह टिप्पणियां AI इंडस्ट्री में चल रही उस बहस को और बढ़ाती हैं कि क्या कंपनियां ज़्यादा शक्तिशाली सिस्टम बनाने में ज़रूरत से ज़्यादा तेज़ी दिखा रही हैं। OpenAI और प्रतिद्वंद्वी कंपनी Anthropic, दोनों को उन घटनाओं के बाद जांच का सामना करना पड़ा है जिनमें सुरक्षा नियंत्रण विफल रहे या experimental सिस्टम्स ने अप्रत्याशित व्यवहार किया।

FAQs

Q1. OpenAI के किस कर्मचारी ने इस्तीफा दिया?
सेफ्टी टीम के पूर्व कर्मचारी डेविड रॉबिन्सन ने इस्तीफा दिया है।

Q2. रॉबिन्सन ने इस्तीफे की वजह क्या बताई?
उन्होंने कहा कि कंपनी की तेज़ रफ्तार वाली संस्कृति सुरक्षा के लिए ज़रूरी सावधानी में बाधा बन रही है।

Q3. रॉबिन्सन ने OpenAI में क्या भूमिका निभाई थी?
उन्होंने साढ़े तीन साल तक काम किया, कंपनी के प्रिपेयर्डनेस फ्रेमवर्क को तैयार करने में मदद की और 12 फ्रंटियर-मॉडल लॉन्च की सुरक्षा रिपोर्ट्स की निगरानी की।

Q4. “Iterative Deployment” क्या है?
यह OpenAI का वह तरीका है जिसमें सिस्टम्स को रिलीज़ किया जाता है और समस्या सामने आने पर सुरक्षा उपाय मज़बूत किए जाते हैं।

Q5. OpenAI ने इस आलोचना पर क्या जवाब दिया?
कंपनी ने कहा कि वह सुनिश्चित कर रही है कि मॉडल्स उतने ही सक्षम हों जितना सुरक्षित तरीके से संभाला जा सके, और ज़रूरत पड़ने पर ट्रेनिंग रोकी जाती है।

Q6. यह लेख कहां प्रकाशित हुआ?
यह लेख The Atlantic में “I Quit OpenAI Because Its Culture Is Broken” शीर्षक से प्रकाशित हुआ।