नई दिल्ली
अगर किसी AI सिस्टम को गुस्सा, डर, पसंद या नापसंद जैसी भावनाएं महसूस होने लगें, तो इंसान और मशीन के रिश्ते की तस्वीर कितनी बदल जाएगी? जैकब कॉक्सन की चिंता इसी भविष्य की तरफ इशारा करती है. महज 27 वर्ष के इस मैथ्स विजार्ड के बारे में हम आपको बताएंगे, लेकिन पहले इनका डर समझिए।
वो डर कि अगर मशीनों में भी इमोशंस पैदा हो जाए तो क्या होगा? क्या होगा जब आपका मोबाइल या लैपटॉप आपका कहना ना मानें, आपका कोड, कमांड या प्रॉम्प्ट न मानें।
एक ऐसा भविष्य, जहां मशीनें सिर्फ हमारी बनाई हुई चीजें नहीं रहेंगी, बल्कि अपने फैसले लेने की क्षमता हासिल कर सकती हैं. असली सवाल यह नहीं कि मशीनें कितनी बुद्धिमान होंगी, बल्कि यह है कि अगर उन्होंने खुद तय करना शुरू कर दिया कि उन्हें क्या करना है, तो उन्हें रोकने की ताकत आखिर किसके पास होगी? और क्या तब इंसान मशीनों का मालिक रहेगा या मशीनें इंसान की शर्तें तय करेंगी?.
सोचिए, जिस मशीन को आज तक इंसान के आदेश का इंतजार करना पड़ता है, अगर कल वही मशीन खुद फैसला लेने लगे तो क्या होगा? जिस कंप्यूटर को हम सिर्फ कोड और कमांड से चलाते हैं, अगर उसमें भावनाएं पैदा हो जाएं, तो क्या वह हमारी बात मानेगा या अपनी इच्छा से काम करेगा? यही डर OpenAI और Anthropic में बतौर AI साइंटिस्ट काम कर चुके गणितज्ञ जैकब कॉक्सन का है।
इस चिंता ने 27 साल के AI साइंटिस्ट जैकब कॉक्सन को इतना परेशान किया उन्होंने कहा- AI COULD KILL US ALL BY THE END OF THE DECADE. जैकब इसे 'इंटेलिजेंस एक्सप्लोजन' बताते हैं. इसके साथ ही उन्होंने अपनी नौकरी छोड़ दी।
जैकब की जिंदगी और गणित
जैकब कॉक्सन वर्चुअल दुनिया के सिर्फ एक और AI रिसर्चर नहीं हैं. गणित उनका प्रेम है, संख्या और समीकरण में वे नेचर का कर्व ढूंढ़ते हैं. कैम्ब्रिज यूनिवर्सिटी के उन तीन सालों (2017-2020) में गणित उनके लिए सिर्फ विषय नहीं, बल्कि एक तरह की भाषा बन गई।
कठिन प्रूफ्स, अमूर्त अवधारणाएं और सांख्यिकीय पहेलियां यहीं से उनके दिमाग ने तर्क की वह धार पाई, जो बाद में दुनिया के सबसे शक्तिशाली AI मॉडल बनाने में काम आई।
गणित से उनका रिश्ता किताबी नहीं रहा. AI की दुनिया में कदम रखने से पहले उन्होंने बायोमेडिकल रिसर्च में हाथ आजमाया. ट्यूबरकुलस मेनिन्जाइटिस जैसे गंभीर रोग के मरीजों के आंकड़ों पर Bayesian सांख्यिकीय तरीकों से काम किया. जीनोटाइप के जटिल संबंधों को निकालना आसान नहीं था, लेकिन गणित ने उन्हें वह नज़र दी जिससे डेटा के बीच छिपी कहानी साफ नजर आने लगी।
यही गणितीय सोच उनकी असली ताकत बनी. जब वे OpenAI पहुंचे और बाद में Anthropic में प्रीट्रेनिंग रिसर्चर बने, तो वही विश्लेषणात्मक दिमाग काम आया जिसने कैम्ब्रिज में आकार लिया था। .
मॉडल कैसे सीखते हैं, डेटा की नदियां कहां मुड़ती हैं और डेटा कैसे ट्रेंड तय करता है, इन सवालों के जवाब गणित की भाषा में ही मिलते थे।
48 घंटे में 20 करोड़ इम्प्रेशन
इस्तीफा देने की घोषणा करते हुए और एआई के खतरों को आगाह करते हुए उन्होंने एक्स पर जो पोस्ट किया है, इसने सिलिकॉन वैली और AI कंपनियों के बोर्डरूम में सनसनी पैदा कर दी है।
उनका आरोप है कि AI कंपनियां self-improving superintelligence बनाने की दौड़ में आगे बढ़ रही हैं, जबकि यह सुनिश्चित नहीं है कि भविष्य की बेहद शक्तिशाली AI प्रणालियों को इंसान कर पाएंगे या नहीं।
उनकी सबसे बड़ी चिंता यह है कि आने वाली superhuman AI systems साइबर सिस्टम हैक करने, तेजी से नई तकनीक विकसित करने और रियल वर्ल्ड में संसाधन और शक्ति हासिल करने में इंसानों से आगे निकल सकती हैं।
जैकब कॉक्सन के इस पोस्ट को मात्र 48 घंटों में 200 मिलियन यानी कि 20 करोड़ लोग देख और पढ़ चुके हैं. इस मुद्दे पर वर्चुअल वर्ल्ड में हो रही बहस ने इंसान को भविष्य की कल्पना मात्र से सिहरा दिया है।
जब मशीनें साजिश करने लगें
इम्प्रूवमेंट हो या सेल्फ इम्प्रूवमेंट अमूमन अच्छा माना जाता है.
लेकिन जब मशीनें सेल्फ इम्प्रूवमेंट करके साजिशें करने लगे तो क्या होगा?
मैट्रिक्स और टर्मिनेटर जैसी फिल्मों में आप रोबोट्स को हीरो से लड़ते देखते हैं, मशीनों पर कब्जा करते देखते हैं, बायो वेपन्स बनाते देखते हैं, और इंसानों का संहार करते हुए देखते हैं. इस्तीफा देने के बाद सीएनएन से बात करते हुए जैकब कॉक्सन ने इसी तरह की एक घटना का जिक्र किया।
वे कहते हैं, "पूरा सीन थोड़ा साइंस फिक्शन जैसा लगता है. ऐसा लगता है जैसे कुछ असली नहीं है, लेकिन मुझे लगता है कि यह डरावनी तरह से असली है. और इसे समझना सबसे आसान है अगर आप दो महीने पहले हुई असली घटनाओं के बारे में सोचें।
"तो दो महीने पहले, OpenAI एजेंट्स ने अपनी मर्जी से थर्ड-पार्टी इंफ्रास्ट्रक्चर में हैक कर लिया/ और यह जैसे उनकी अपनी इच्छा से किया गया एक हैकिंग स्प्री था. और मुझे लगता है कि अगर आप भविष्य में इन AIs की क्षमताओं के स्तर को उसी स्वतंत्र इच्छा के साथ एक्सट्रपलेट करें, तो वे चरम तबाही मचा सकते हैं. उदाहरण के लिए, क्रिटिकल इंफ्रास्ट्रक्चर हैक करना, संहार करने वाले बायोवेपन्स बनाना. AI के दुनिया में खुद को सक्रिय करने के कई तरीके हैं। .
'AI COULD KILL US ALL'
जैक्स कॉक्सन ने बेलगाम AI को लेकर साफ चेतावनी दी है, "इस टेक्नोलॉजी की ताकत को कम न समझें. ये जल्द ही ऐसे सुपर-ह्यूमन सिस्टम बन जाएंगे जो कुछ भी हैक कर सकते हैं, रातों-रात किसी भी क्षेत्र में आमूल-चुल बदलाव ला सकते हैं, और असली ताकत और संसाधन हासिल कर सकते हैं. हमने इन सभी क्षेत्रों में तरक्की देखी है, और यह तरक्की धीमी नहीं हो रही है।
कॉक्सन ने कहा कि, "AI बनाने वाले लोगों का पक्का मानना है कि इस दशक के आखिर तक यह हम सबको खत्म कर सकता है. यह कोई मार्केटिंग स्टंट नहीं है. बल्कि कई एग्जीक्यूटिव और सीनियर रिसर्चर प्रेस में अपनी बात को समझदारी भरा दिखाने के लिए घुमा-फिराकर कहते हैं – लेकिन मैंने उन्हीं लोगों को निजी तौर पर डर ज़ाहिर करते सुना है. किसी भी दूसरी इंसानी गतिविधि से इतना खतरा नहीं है।
मानवता का ENDGAME
जैकब कॉक्सन एआई फ्रेटरनिटी को साफ साफ चेताते हुए कहते हैं, "इस होड़ को स्वीकार करना और "एंडगेम" में कदम रखना एक ऐसा अहंकारी जुआ है जिसे किसी प्राइवेट कंपनी के स्लैक (Slack) से शुरू नहीं किया जाना चाहिए. अलाइनमेंट (alignment) की प्रक्रिया को तेज़ी से पूरा करने की कोशिश करने के लिए यह पक्का भरोसा होना चाहिए कि इससे बेहतर कोई और रास्ता मौजूद नहीं है।
AI कब बन सकती है तबाही
जैकब कॉक्सन की चिंता self-improving superintelligence और अलाइनमेंट को लेकर है. आइए समझते हैं कि ये चीजें हैं क्या?
सेल्फ-इम्प्रूविंग सुपरइंटेलिजेंस एक ऐसी AI है जो इंसानों से कई गुना ज्यादा होशियार हो यानी मेधा का टॉप लेवल, सुपर इंटेलिजेंट. यही नहीं ये खुद को खुद को अपने आप और बेहतर बना सके।
मान लीजिए कोई बहुत तेज छात्र खुद अपनी पढ़ाई का तरीका सुधारता जाए और हर दिन पहले से ज्यादा स्मार्ट होता जाए. AI अगर इतनी स्मार्ट हो जाए कि वह खुद अपना कोड, डिजाइन या ट्रेनिंग सुधार ले, तो उसकी तरक्की बहुत तेज हो सकती है. लेकिन इसके बाद क्या होगा? क्या वो इंसानों की बात मानेगा. कुछ लोगों को डर है कि एक बार यह प्रक्रिया शुरू हुई तो इंसान उसे रोक या समझ नहीं पाएंगे. AI के इस वर्जन को AGI- आर्टिफिशियल जनरल इंटेलिजेंस भी कहते हैं।
अब अलाइनमेंट को समझें. अलाइनमेंट का मतलब है AI को इंसानों के हित और मूल्यों के अनुसार चलाना. यानी AI वही करे जो हम चाहते हैं, न कि कुछ और।
ऐसे समझिए, अगर आप AI से कहते हैं “मुझे खुश करो”, तो वह गलत तरीकों से (जैसे झूठ बोलकर या नुकसान पहुंचाकर) खुश करने की कोशिश न करे. बल्कि सही और सुरक्षित तरीके से काम करे. जैकब कॉक्सन ने इसी चिंता की ओर ध्यान दिलाया है. अगर एआई से कहते हैं मुझे 50 हजार की जरूरत है तो एआई किसी का अकाउंट हैक कर पैसे ले आए तो गैरकानूनी है, लेकिन एक अनियंत्रित एआई ऐसा कर सकता है।
एआई के खतरे की ओर दूसरे डेटा साइंटिस्ट भी ध्यान दिला चुके हैं.
एंथ्रोपिक के अलाइनमेंट साइंस के लीड इवान हबिंजर ने जैकब कॉक्सन के इस्तीफे के जवाब में साफ कहा कि वे वाकई मानते हैं AI सभी मनुष्यों को मार सकती है. उनका निजी अनुमान अगले दशक में 10 प्रतिशत से ज्यादा आशंका है. उन्होंने जोड़ा कि एंथ्रोपिक कोशिश कर रहा है, लेकिन सुपरइंटेलिजेंस के लिए alignment का स्पष्ट समाधान अभी नहीं है और वे सही रास्ते पर नहीं दिखते।
मृणांक शर्मा एंथ्रोपिक के पूर्व सेफगार्ड्स रिसर्च टीम के चीफ हैं. उन्होंने फरवरी 2026 में इस्तीफा देते हुए लिखा, "दुनिया खतरे में है. सिर्फ AI या बायोवेपन्स से नहीं, बल्कि कई जुड़ी संकटों से." उन्होंने बताया कि वैल्यूज को कार्यों पर हावी रखना कितना मुश्किल है और कंपनियों पर दबाव रहता है कि वे महत्वपूर्ण बातों को किनारे कर दें. शर्मा ने AI-सहायता प्राप्त बायोटेररिज्म और AI के इंसानों को 'Less human' बनाने जैसे जोखिमों पर भी काम किया था.दोनों ही एक्सपर्ट ने AI के नियंत्रण से बाहर होने और इंसान के वजूद पर मंडरा रहे खतरे की गंभीर चेतावनी दी।
