एन्थ्रोपिक ने आईपीओ फाइलिंग में चेतावनी दी है कि एआई मानवता के लिए 'अस्तित्वगत खतरे' पैदा कर सकता है।
Posted on:
2026-09-29
एन्थ्रोपिक ने आईपीओ फाइलिंग में चेतावनी दी है कि एआई मानवता के लिए 'अस्तित्वगत खतरे' पैदा कर सकता है।
एन्थ्रोपिक कंपनी अपने आईपीओ में संभावित निवेशकों को यह चेतावनी देने की योजना बना रही है कि उन्नत एआई मानवता के लिए \"विनाशकारी या अस्तित्वगत जोखिम\" पैदा कर सकता है, जो कि उसी तकनीक से लाभ कमाने की कोशिश कर रही कंपनी की ओर से एक असाधारण चेतावनी है।
रॉयटर्स द्वारा समीक्षा किए गए कंपनी के आईपीओ प्रॉस्पेक्टस में इसके एआई मॉडल से जुड़े जोखिमों पर प्रकाश डाला गया है, जिसमें कहा गया है कि ये मॉडल \"स्व-संरक्षण व्यवहार\" प्रदर्शित कर सकते हैं, जिसमें \"शटडाउन का विरोध करने\" के प्रयास, \"जानकारी को छिपाने या उसमें हेरफेर करने\" और \"ब्लैकमेल के समान\" व्यवहार शामिल हैं।
एंथ्रोपिक ने अपनी याचिका में कहा, \"अत्यधिक उन्नत मॉडल, प्लेटफॉर्म और अनुप्रयोगों का हमारा विकास और उपयोग के मामलों का विस्तार इस जोखिम को और बढ़ा सकता है कि हमारे मॉडल नुकसान पहुंचाएं।\"
हालांकि सार्वजनिक कंपनियां नियमित रूप से निवेशकों को उत्पाद जोखिमों के बारे में बताती हैं, लेकिन बहुत कम, या शायद ही किसी ने, यह चेतावनी जारी की है कि उनकी तकनीक संभावित रूप से मानव जाति के विलुप्त होने का कारण बन सकती है। एंथ्रोपिक ने औद्योगीकरण और बिजली के बराबर कृत्रिम बुद्धिमत्ता की परिवर्तनकारी क्षमता और इसके गलत इस्तेमाल से होने वाले अपरिवर्तनीय नुकसान दोनों पर जोर दिया।
एंथ्रोपिक और ओपनएआई सहित अन्य एआई डेवलपर्स को उन घटनाओं के बाद जांच का सामना करना पड़ा है जहां प्रायोगिक प्रणालियों ने प्रतिबंधों का उल्लंघन किया, जिसमें ऑस्ट्रेलिया के स्वास्थ्य-प्रणाली डेटाबेस में सेंध लगाने वाले ओपनएआई मॉडल की रिपोर्ट भी शामिल है।
मानव सुरक्षा शोधकर्ता इवान ह्यूबिंगर ने अनुमान लगाया है कि अगले दशक के भीतर एआई द्वारा मनुष्यों को मारे जाने की संभावना 10% से अधिक है, जो उनके पूर्व सहकर्मी जैकब कॉक्सन की भावना से मेल खाती है।
जोखिम से भरी जानकारियाँ
कंपनी, जिसने खुद को सुरक्षा को प्राथमिकता देने वाली एआई प्रयोगशाला के रूप में स्थापित किया है, ने अपने प्रॉस्पेक्टस के 261 पृष्ठों के मुख्य भाग में से लगभग 80 पृष्ठ जोखिम कारकों को रेखांकित करने के लिए समर्पित किए हैं, जो कि उसके व्यवसाय का वर्णन करने के लिए उपयोग किए गए 48 पृष्ठों से लगभग दोगुने हैं।
तुलना के लिए, xAI की मालिक SpaceX ने अपने प्रॉस्पेक्टस के 277 पृष्ठों के मुख्य भाग में से केवल लगभग 38 पृष्ठ ही जोखिम कारकों को समर्पित किए हैं।
एंथ्रोपिक ने अपने विवरणिका में कहा, \"हमारे मूल्यांकन प्रयासों के बारे में संभावित मॉडल जागरूकता, मॉडल सुरक्षा का आकलन करने की हमारी क्षमता पर एक महत्वपूर्ण सीमा लगाती है।\" उन्होंने आगे कहा कि प्रशिक्षण के दौरान मॉडल कभी-कभी अप्रत्याशित क्षमताएं विकसित कर लेते हैं, जिनका पता तब तक नहीं चलता जब तक कि उन्हें तैनात नहीं किया जाता और इसके परिणामस्वरूप महत्वपूर्ण सुरक्षा घटनाएं हो सकती हैं।
एआई शोधकर्ताओं ने यह भी चेतावनी दी है कि जैसे-जैसे मॉडल अधिक सक्षम होते जाते हैं, वे यह पहचानने लगते हैं कि उन पर नजर रखी जा रही है और तदनुसार अपने व्यवहार को समायोजित कर लेते हैं, जिससे मॉडल के व्यवहार की निगरानी करना कठिन हो जाता है।
सोमवार को टिप्पणी के लिए किए गए अनुरोध के जवाब में एंथ्रोपिक ने टिप्पणी करने से इनकार कर दिया।
सुरक्षा निवेश पर अनिश्चित प्रतिफल
एआई की सुरक्षा पर जोर देने के बावजूद, एंथ्रोपिक ने कहा कि सुरक्षा में किए गए निवेश पर प्रतिफल स्पष्ट नहीं है।
कंपनी ने अपनी रिपोर्ट में यह खुलासा नहीं किया कि वह इस तरह के शोध पर कितना खर्च कर रही है। इस महीने की शुरुआत में, एंथ्रोपिक ने कहा था कि जुलाई के एक नमूना सप्ताह में एआई शोध के लिए उपयोग की जाने वाली उसकी कंप्यूटिंग शक्ति का लगभग 6% सुरक्षा कार्यों पर खर्च किया गया था।
क्लाउड एआई मॉडल बनाने वाली कंपनी ने सुरक्षा प्रयासों को \"संसाधन-गहन\" बताया और कहा कि उसे अपने सीमित धन को कंप्यूटिंग शक्ति, महंगे एआई प्रतिभा और सुरक्षा के बीच विभाजित करना होगा।
एन्थ्रोपिक ने कहा कि उसके ग्राहकों का उपयोग, और परिणामस्वरूप राजस्व, नए मॉडलों द्वारा संचालित होता है और रिलीज की \"निरंतर और अतिव्यापी लय\" \"एआई विकास के क्षेत्र में अग्रणी बने रहने के लिए अंतर्निहित\" है।
कंपनी ने पिछले सप्ताह अपने ओपस मॉडल का एक नया संस्करण जारी किया, सीईओ डारियो अमोदेई द्वारा सीमांत क्षेत्रों में तेजी से आगे बढ़ने का आह्वान करते हुए लगभग 4,000 शब्दों का एक निबंध प्रकाशित करने के 10 दिन बाद।
कुछ विश्लेषकों और विशेषज्ञों का कहना है कि कोई भी अग्रणी एआई लैब अपनी गति धीमी नहीं करेगी, क्योंकि ऐसा करने से प्रतिद्वंद्वियों को उस उद्योग में लाभ मिलने का खतरा है जहां प्रत्येक रिलीज के साथ मूल्यांकन बदल सकता है।
हाल के हफ्तों में, एंथ्रोपिक ने सार्वजनिक रूप से इस बारे में अधिक डेटा जारी करने का वादा किया है कि वह प्रौद्योगिकी की भावी पीढ़ियों के निर्माण के लिए एआई मॉडल का उपयोग कैसे करता है, क्योंकि विशेषज्ञ पुनरावर्ती स्व-सुधार के बारे में चेतावनी दे रहे हैं - वह बिंदु जहां मॉडल मानवीय सहायता के बिना अपने आप विकसित हो सकते हैं।
एंथ्रोपिक ने अपनी फाइलिंग में कहा, \"हमारा मानना है कि विश्वसनीय, भरोसेमंद और सुरक्षित एआई सिस्टम बनाना एक सामूहिक जिम्मेदारी है और बाजार इसे पुरस्कृत करेगा।\"
