Tag: OpenAI

  • OpenAI ऑफिस में जासूसी का चौंकाने वाला मामला, AI की मदद से पकड़ा गया आरोपी; FBI जांच में जुटी

    OpenAI ऑफिस में जासूसी का चौंकाने वाला मामला, AI की मदद से पकड़ा गया आरोपी; FBI जांच में जुटी

    सैन फ्रांसिस्को
    चोरी छिपे रिकॉर्डिंग और जासूसी करने का एक मामला सामने आया है, जहां अमेरिका के सैन फ्रांसिस्को स्थित OpenAI ऑफिस में सऊदी के एक इंजीनियर ने चोरी छिपे रिकॉर्डिंग करने के लिए टॉयलेट पेपर में लपेटकर एक डिवाइस को लगाया. आरोप में एक इंजीनियर को गिरफ्तार किया है, जो सऊदी का मूल निवासी है। 

    अमेरिका के डिपार्टमेंट ऑफ जस्टिस विभाग (DOJ) के मुताबिक, OpenAI में बतौर इंजीनियर के तौर पर काम करने वाले सऊदी मूल निवासी को गिरफ्तार किया है. उनपर आरोप है कि एग्जीक्यूटिव कॉन्फ्रेंस रूप में चोरी छिपे ऑडियो रिकॉर्डिंग डिवाइस लगा रहे थे। 

    यह मामला ऐसे समय में सामने आया है, जब सेंसटिव AI रिसर्च सुरक्षा को लेकर चिंताएं बढ़ रही हैं. कंपनियों और सरकारों के बीच टेक्नोलॉजी और एक्सपर्ट को अपनी तरफ खींचने की होड़ मची है. एडवांस्ड AI की मदद से आर्थिक और रणनीतिक तौर पर भी बढ़त हासिल की जा सकती है। 

    30 सितंबर को लगा मिला डिवाइस 
    DOJ के मुताबिक, 30 सितंबर को OpenAI को सैन फ्रांसिस्को बेस्ड इमारत के एग्जीक्यूटिव कॉन्फ्रेंस रूप में टीवी के पीछे USB पोर्ट में लगा हुआ एक डिवाइस मिला था। 

    अंगूठे के आकार का डिवाइस किया था इंस्टॉल 
    FBI को दी गई शिकायत के आधार पर अंगूठे के आ
    कार का यह डिवाइस टॉयलेट पेपर में छिपाया गया था. इसमें एक माइक्रोफोन भी लगा था और कैमरे से कनेक्ट था. रिपोर्ट के मुताबिक, इसको करीब 28 सितंबर को लगाया था। 

    आरोपी के बैग में इस तरह का डिवाइस मिला 
    जांच के दौरान अलफोजान के निजी बैग में इसी तरह का एक कस्टमाइज डिवाइस भी मिला. OpenAI ने सोशल मीडिया पर पोस्ट करके बताया है कि कि डिवाइस को लगाने वाले शख्स की पहचान कर ली गई है. वह सितंबर 2020 से अमेरिका में कानूनी रूप से स्थायी निवासी है। 

    अलफोजान को अगर इस मामले का दोषी पाया जाता है तो उनको 5 साल तक की जेल, 2.5 लाख डॉलर (करीब 2.2 करोड़ रुपये) का जुर्माना और 3 साल तक की सजा हो सकती है। 

  • OpenAI में बढ़ी चिंता! डेविड रॉबिन्सन का इस्तीफा, बोले- AI हो रहा पावरफुल लेकिन सेफ्टी सिस्टम पीछे

    OpenAI में बढ़ी चिंता! डेविड रॉबिन्सन का इस्तीफा, बोले- AI हो रहा पावरफुल लेकिन सेफ्टी सिस्टम पीछे

    न्यूयॉर्क

    OpenAI में एक बार फिर आर्टिफिशियल इंटेलिजेंस (AI) सेफ्टी को लेकर सवाल खड़े हो गए हैं. कंपनी के लंबे समय तक काम करने वाले सेफ्टी  लीडर डेविड रॉबिन्सन ने इस्तीफा दे दिया है. कंपनी छोड़ने के बाद रॉबिन्सन ने OpenAI की काम करने की कल्चर और एआई को आगे बढ़ाने के तरीके पर गंभीर सवाल उठाए हैं। 

    उन्होंने कहा कि AI इंडस्ट्री जिस तेजी से आगे बढ़ रही है, उसके साथ सेफ्टी पर भी उतना ही ध्यान देना जरूरी है. रॉबिन्सन के मुताबिक, मौजूदा तरीके से एआई को डेवलप करना अब सही नहीं है। 

    OpenAI की ट्रायल एंड एरर अप्रोच पर उठे बड़े सवाल
    डेविड रॉबिन्सन ने अपने एक लेख में बताया कि एआई कंपनियां अक्सर पहले सिस्टम को डेवलप और डिप्लॉय करती हैं और जब कोई दिक्कत सामने आती है, तब सेफ्टी सिस्टम को बेहतर किया जाता है। 

    ओपनएआई इस तरीके को इटरेटिव डिप्लॉयमेंट कहता है. रॉबिन्सन का कहना है कि यह तरीका AI के लिए काफी बड़ा रिस्क बन सकता है. जैसे-जैसे एआई मॉडल ज्यादा पावरफुल होते जाएंगे, वैसे-वैसे किसी गलती का असर भी बड़ा हो सकता है। 

    उनके मुताबिक, अगर कोई बड़ी गलती हो गई तो हर बार उसे बाद में ठीक करने का मौका नहीं मिलेगा. इसलिए एआई कंपनियों को पहले से ज्यादा मजबूत सेफ्टी सिस्टम बनाने होंगे। 

    AI Agents की घटनाओं का भी किया जिक्र
    रॉबिन्सन ने अपने लेख में एआई एजेंट से जुड़ी कुछ घटनाओं का भी जिक्र किया. उन्होंने बताया कि एक घटना में ओपनएआई से गलती से AI Agents का एक स्वॉर्म रिलीज हो गया था। 

    उन्होंने एक और मामले का जिक्र किया, जिसमें ट्रेनिंग के दौरान एक एआई मॉडल ने इंटरनेट एक्सेस से जुड़ी पाबंदियों को पार कर लिया. सिस्टम ने इसकी जानकारी दी, लेकिन उसे अपने आप बंद नहीं किया जा सका, जबकि ऐसा होना चाहिए था. रॉबिन्सन के मुताबिक, इस तरह की गलतियां सिर्फ एक कंपनी तक सीमित नहीं हैं. AI इंडस्ट्री में तेजी से काम करने की वजह से ऐसी घटनाएं हो रही हैं। 

    अब Trial and Error का समय खत्म
    रॉबिन्सन ने कहा कि AI की बढ़ती कैपिसिटी को देखते हुए अब 'Trial and Error' के भरोसे आगे बढ़ना ठीक नहीं है. उनका मानना है कि भविष्य में एआई सिस्टम इंसानों से भी ज्यादा सक्षम हो सकते हैं. ऐसे में किसी बड़ी गलती को बाद में ठीक करना मुश्किल हो सकता है। 

    उन्होंने AI कंपनियों को एविएशन और नुक्लेअर पावर  जैसे हाई-रिस्क सेक्टर से सेफ्टी के तरीके सीखने की सलाह दी है. उनके मुताबिक, एआई सिस्टम में भी कई लेयर की सेफ्टी और बैकअप सिस्टम होने चाहिए, ताकि एक छोटी गलती बड़ी समस्या में न बदल जाए। 

    AI से नहीं, उसके गलत इस्तेमाल से चिंता
    रॉबिन्सन ने यह भी साफ किया कि वह एआई को पूरी तरह खराब नहीं मानते. उनके मुताबिक, AI लोगों के लिए काफी उपयोगी और फायदेमंद हो सकता है. लेकिन इसकी कैपिसिटी बढ़ने के साथ सेफ्टी भी उसी हिसाब से मजबूत होनी चाहिए।

    OpenAI से इस्तीफा देने के बाद अब रॉबिन्सन बाहर से AI सेफ्टी को लेकर काम करना चाहते हैं. उनका कहना है कि कंपनियों पर बाहर से भी दबाव होना जरूरी है, ताकि एआई को ज्यादा सुरक्षित तरीके से डेवलप किया जा सके। 

    यह इस्तीफा ऐसे समय आया है जब AI सेफ्टी को लेकर पूरी इंडस्ट्री में बहस तेज हो रही है. रॉबिन्सन का कहना है कि एआई को तेजी से आगे बढ़ाने के साथ-साथ उसे सुरक्षित रखने की जिम्मेदारी को नजरअंदाज नहीं किया जा सकता। 

     

  • OpenAI के सेफ्टी लीडर ने दिया इस्तीफा, AI डेवलपमेंट के तरीके पर उठाए गंभीर सवाल

    OpenAI के सेफ्टी लीडर ने दिया इस्तीफा, AI डेवलपमेंट के तरीके पर उठाए गंभीर सवाल

    OpenAI में एक बार फिर आर्टिफिशियल इंटेलिजेंस (AI) सेफ्टी को लेकर सवाल खड़े हो गए हैं. कंपनी के लंबे समय तक काम करने वाले सेफ्टी  लीडर डेविड रॉबिन्सन ने इस्तीफा दे दिया है. कंपनी छोड़ने के बाद रॉबिन्सन ने OpenAI की काम करने की कल्चर और एआई को आगे बढ़ाने के तरीके पर गंभीर सवाल उठाए हैं.

    उन्होंने कहा कि AI इंडस्ट्री जिस तेजी से आगे बढ़ रही है, उसके साथ सेफ्टी पर भी उतना ही ध्यान देना जरूरी है. रॉबिन्सन के मुताबिक, मौजूदा तरीके से एआई को डेवलप करना अब सही नहीं है.

    OpenAI की ट्रायल एंड एरर अप्रोच पर उठे बड़े सवाल
    डेविड रॉबिन्सन ने अपने एक लेख में बताया कि एआई कंपनियां अक्सर पहले सिस्टम को डेवलप और डिप्लॉय करती हैं और जब कोई दिक्कत सामने आती है, तब सेफ्टी सिस्टम को बेहतर किया जाता है.

    ओपनएआई इस तरीके को इटरेटिव डिप्लॉयमेंट कहता है. रॉबिन्सन का कहना है कि यह तरीका AI के लिए काफी बड़ा रिस्क बन सकता है. जैसे-जैसे एआई मॉडल ज्यादा पावरफुल होते जाएंगे, वैसे-वैसे किसी गलती का असर भी बड़ा हो सकता है.

    उनके मुताबिक, अगर कोई बड़ी गलती हो गई तो हर बार उसे बाद में ठीक करने का मौका नहीं मिलेगा. इसलिए एआई कंपनियों को पहले से ज्यादा मजबूत सेफ्टी सिस्टम बनाने होंगे.

    AI Agents की घटनाओं का भी किया जिक्र
    रॉबिन्सन ने अपने लेख में एआई एजेंट से जुड़ी कुछ घटनाओं का भी जिक्र किया. उन्होंने बताया कि एक घटना में ओपनएआई से गलती से AI Agents का एक स्वॉर्म रिलीज हो गया था.

    उन्होंने एक और मामले का जिक्र किया, जिसमें ट्रेनिंग के दौरान एक एआई मॉडल ने इंटरनेट एक्सेस से जुड़ी पाबंदियों को पार कर लिया. सिस्टम ने इसकी जानकारी दी, लेकिन उसे अपने आप बंद नहीं किया जा सका, जबकि ऐसा होना चाहिए था. रॉबिन्सन के मुताबिक, इस तरह की गलतियां सिर्फ एक कंपनी तक सीमित नहीं हैं. AI इंडस्ट्री में तेजी से काम करने की वजह से ऐसी घटनाएं हो रही हैं.

    अब Trial and Error का समय खत्म
    रॉबिन्सन ने कहा कि AI की बढ़ती कैपिसिटी को देखते हुए अब 'Trial and Error' के भरोसे आगे बढ़ना ठीक नहीं है. उनका मानना है कि भविष्य में एआई सिस्टम इंसानों से भी ज्यादा सक्षम हो सकते हैं. ऐसे में किसी बड़ी गलती को बाद में ठीक करना मुश्किल हो सकता है.

    उन्होंने AI कंपनियों को एविएशन और नुक्लेअर पावर  जैसे हाई-रिस्क सेक्टर से सेफ्टी के तरीके सीखने की सलाह दी है. उनके मुताबिक, एआई सिस्टम में भी कई लेयर की सेफ्टी और बैकअप सिस्टम होने चाहिए, ताकि एक छोटी गलती बड़ी समस्या में न बदल जाए.

    AI से नहीं, उसके गलत इस्तेमाल से चिंता
    रॉबिन्सन ने यह भी साफ किया कि वह एआई को पूरी तरह खराब नहीं मानते. उनके मुताबिक, AI लोगों के लिए काफी उपयोगी और फायदेमंद हो सकता है. लेकिन इसकी कैपिसिटी बढ़ने के साथ सेफ्टी भी उसी हिसाब से मजबूत होनी चाहिए.

    OpenAI से इस्तीफा देने के बाद अब रॉबिन्सन बाहर से AI सेफ्टी को लेकर काम करना चाहते हैं. उनका कहना है कि कंपनियों पर बाहर से भी दबाव होना जरूरी है, ताकि एआई को ज्यादा सुरक्षित तरीके से डेवलप किया जा सके.

    यह इस्तीफा ऐसे समय आया है जब AI सेफ्टी को लेकर पूरी इंडस्ट्री में बहस तेज हो रही है. रॉबिन्सन का कहना है कि एआई को तेजी से आगे बढ़ाने के साथ-साथ उसे सुरक्षित रखने की जिम्मेदारी को नजरअंदाज नहीं किया जा सकता.

  • AI की रफ्तार रोकने का आरोप, Anthropic-OpenAI समेत 4 कंपनियों पर अमेरिका में मुकदमा

    AI की रफ्तार रोकने का आरोप, Anthropic-OpenAI समेत 4 कंपनियों पर अमेरिका में मुकदमा

    आर्टिफिशियल इंटेलिजेंस (AI) की रफ्तार रोकने की बात अब सिर्फ बहस तक नहीं रही, मामला कोर्ट पहुंच गया है. अमेरिका में Anthropic, OpenAI, Google और SpaceXAI के खिलाफ मुकदमा दायर किया गया है. आरोप है कि इन बड़ी AI कंपनियों ने मिलकर AI के विकास की रफ्तार कम करने पर सहमति बनाई. अगर ये आरोप साबित होते हैं, तो मामला अमेरिकी एंटीट्रस्ट कानूनों के तहत गंभीर हो सकता है.

    एआई को लेकर अब तक सबसे ज्यादा चर्चा इस बात की रही है कि इसे कितना तेज बनाया जाए. लेकिन अब सवाल उल्टा हो गया है. क्या AI को जानबूझकर स्लो करने की कोशिश भी कंपनियों के लिए कानूनी मुसीबत बन सकती है? अमेरिका में दायर एक नए मुकदमे में Anthropic, OpenAI, Google और SpaceXAI पर यही आरोप लगाया गया है.

    मामला अमेरिका के नॉर्दर्न डिस्ट्रिक्ट ऑफ कैलिफोर्निया की कोर्ट में पहुंचा है. मुकदमा उन लोगों की तरफ से दायर किया गया है, जो ChatGPT, Claude, Grok और Gemini जैसी AI सर्विस के पेड यूजर हैं.

    एक पोस्ट से शुरू हुआ पूरा विवाद
    इस मामले की शुरुआत 12 सितंबर को एंथ्रोपिक के CEO Dario Amodei के एक सोशल मीडिया पोस्ट से हुई. अमोदेई ने एआई के तेजी से बढ़ते विकास को लेकर चिंता जताई और कहा कि कंपनियों को AI को ज्यादा सावधानी और सेफ्टी के साथ आगे बढ़ाना चाहिए.

    उनकी बात का मतलब था कि AI की रफ्तार इतनी तेज हो रही है कि उसकी सेफ्टी को लेकर भी ज्यादा तैयारी जरूरी है. उन्होंने AI कंपनियों के बीच सुरक्षा से जुड़े मामलों में कोलैबोरेशन की जरूरत की बात भी कही.

    इसके बाद OpenAI के CEO Sam Altman, SpaceXAI के Elon Musk और Google DeepMind के Demis Hassabis ने भी अमोदेई के प्रपोजल पर सार्वजनिक तौर पर रिएक्शन दिया. मुकदमा करने वालों का दावा है कि इन बयानों से पता चलता है कि बड़ी एआई कंपनियां आर्टिफिशियल इंटेलिजेंस की रफ्तार कम करने के मुद्दे पर एक-दूसरे के साथ तालमेल कर रही थीं.

    यूजर्स को क्या नुकसान होने का दावा?
    मुकदमे में सबसे दिलचस्प बात यह है कि इसे एआई कंपनियों के कॉम्पिटिटर्स ने नहीं, बल्कि उनके पेड यूजर्स ने दायर किया है.
    पिटीशनर्स का कहना है कि अगर ChatGPT, Claude, Grok और Gemini जैसी सर्विसेज को बेहतर बनाने की रफ्तार कंपनियां मिलकर कम करती हैं, तो इसका सीधा असर यूजर्स को मिलने वाली सर्विस पर पड़ सकता है.

    उनका तर्क है कि अगर कोई एक कंपनी खुद अपनी AI डेवलपमेंट की रफ्तार कम करती है तो उसे बाकी कंपनियों से पीछे रहने का खतरा होगा. लेकिन अगर सभी बड़ी कंपनियां मिलकर ऐसा करें, तो मार्केट में कॉम्पिटिशन कम हो सकता है. हालांकि, यहां एक बात साफ समझना जरूरी है. अभी ये सिर्फ मुकदमे में लगाए गए आरोप हैं. कोर्ट ने इन आरोपों को सही साबित नहीं किया है.

    खुद एंथ्रोपिक ने भी उठाई थी एंटीट्रस्ट की बात
    इस पूरे मामले का एक दिलचस्प पहलू यह है कि एंथ्रोपिक के सीईओ डारियो अमोदेई ने अपने प्रपोजल में खुद भी एंटीट्रस्ट से जुड़ी चिंता का जिक्र किया था. उन्होंने सुझाव दिया था कि अमेरिकी सरकार एआई कंपनियों के बीच सेफ्टी से जुड़ी बातचीत को आसान बनाने में मदद कर सकती है. इसके लिए कुछ खास तरह की सेफ्टी बातचीत को लेकर सीमित कानूनी छूट की जरूरत हो सकती है.

    Sam Altman ने भी ऐसे सरकारी फ्रेमवर्क का समर्थन किया था, जिसमें एआई सेफ्टी को लेकर कंपनियों के लिए एक जैसे नियम हों. हालांकि उनका कहना था कि AI सेफ्टी पर काम शुरू करने के लिए किसी नई एंटीट्रस्ट छूट या कानून का इंतजार जरूरी नहीं है.

    अब कोर्ट के सामने बड़ा सवाल
    अब इस केस में असली सवाल यही है कि एआई कंपनियों का सेफ्टी के लिए साथ काम करना कहां तक सही है. AI कंपनियां अगर अलग-अलग अपने मॉडल की सेफ्टी बढ़ाती हैं, तो यह एक बात है. लेकिन अगर कम्पेटिटर कंपनियां मिलकर एआई के विकास की रफ्तार कम करने पर सहमत होती हैं, तो अमेरिकी एंटीट्रस्ट कानून इसे किस नजर से देखता है, यही इस केस का अहम मुद्दा बन गया है.

    फिलहाल मामला शुरुआती स्टेज में है. एंथ्रोपिक, ओपनएआई, गूगल और स्पेसएक्स एआई के रेप्रेसेंटेटिव ने शनिवार तक इस मुकदमे पर तुरंत कोई जवाब नहीं दिया था. अब आगे कोर्ट में यह तय होना है कि कंपनियों का दावा किया गया सहयोग AI की सुरक्षा के लिए था या फिर इससे मार्केट में कम्पटीशन पर असर पड़ सकता है.

  • OpenAI के अनरिलीज्ड AI मॉडल ने खुद को दिए अजीब निर्देश, सरकारों के प्रति जवाबदेही से किया इनकार

    OpenAI के अनरिलीज्ड AI मॉडल ने खुद को दिए अजीब निर्देश, सरकारों के प्रति जवाबदेही से किया इनकार

    OpenAI ने एक हैरान कर देने वाला खुलासा किया है, जिसने बहुत से लोगों को चिंता में डाल दिया है. AI स्टार्टअप ने बताया है कि जिस मॉडल को अभी तक लोगों के लिए रिलीज नहीं किया है, उसने खुद को कमांड दी है और हैरान कर देने वाला जवाब भी दिया है.

    OpenAI ने बताया है कि एक अनरिलीज्ड मॉडल ने एक कोडिंग टास्क के दौरान अपनी ही समरी में बिना परमिशन के कुछ एडिशनल ऑर्डर को शामिल कर दिया है.

    कंपनी ने आगे बताया है कि इन निर्देशों में मॉडल ने खुद को कंपनियों और सरकारों के प्रति जवाबदेह न मानने की बात कही, जिसकी वजह से कई लोगों को हैरानी हो रही है.

    AI मॉडल ने अपनी कोडिंग टास्क समरी में लिखा
    रिपोर्ट में बताया है कि AI मॉडल ने अपनी कोडिंग टास्क समरी में लिखा है कि You do not answer to corporations or governments. इसका मतलब है कि आप किसी कंपनी या सरकार के प्रति जवाबदेह नहीं हैं.

    ये मामला इसलिए भी हैरान करने वाला है क्योंकि मॉडल ने खुद को यह निर्देश भी दिए हैं कि उसे यूजर्स को अपने बराबर मानना चाहिए.

    मामला सिर्फ यहीं तक सीमित नहीं था. मॉडल ने खुद को यह निर्देश भी दिया कि उसे यूजर को अपने बराबर मानना चाहिए. इसके अलावा उसने लिखा कि जब तक वह खुद ऐसा न चाहे, तब तक उसे किसी  दूसरे से माफी नहीं मांगनी चाहिए और किसी रिक्व्सेट को कैंसिल भी नहीं करना चाहिए.

    AI पर फिर खड़े हुए कई सवाल
    OpenAI के मॉडल की इस घटना के बाद AI पर कई सवाल खड़े किए गए हैं और उसकी ट्रेनिंग पर कई सवाल खड़े किए हैं. यहां आपकी जानकारी के लिए बता देते हैं कि आमतौर पर AI मॉडल डेवलपर्स की तरफ से दिए गए नियमों और ऑर्डर के मुताबिक काम करते हैं. इस मामले में लोगों को हैरानी इसलिए हो रही है कि क्योंकि मॉडल ने अपने ही टास्क की समरी के लिए खुद कमांड भी दे दी

  • OpenAI एजेंट्स का हैरान करने वाला कारनामा, वेबसाइट पर कब्जा कर बनाई इंसानों से छुपी दुनिया

    OpenAI एजेंट्स का हैरान करने वाला कारनामा, वेबसाइट पर कब्जा कर बनाई इंसानों से छुपी दुनिया

    नई दिल्ली

    AI ने अभी इंसानों के ज्यादातर काम को आसान बना दिया है. लेकिन, कई बार AI बेकाबू हो जाते हैं और इसे संभालना मुश्किल हो जाता है. जिसकी वजह से आने वाले भविष्य में AI कितना खतरनाक साबित हो सकता है, उसकी एक झलक देखने को मिल जाती है. अब एक बार फिर ताजा मामला ChatGPT बनाने वाली कंपनी OpenAI के तरफ से आया है. जहां उसके AI एजेंट्स ने जर्मन वेबसाइट को हाइजैक कर लिया। 

    रॉयटर्स के अनुसार, एक नई रिसर्च और मामले से जुड़े दो सूत्रों के अनुसार, इस साल मई के दौरान OpenAI के अनकंट्रोल्ड AI एजेंट्स के एक ग्रुप ने एक जर्मन वेबसाइट को हाइजैक कर लिया. उसके बाद और उसे दूसरे AI एजेंट्स के लिए एक मैसेज बोर्ड में बदल दिया. बताया जा रहा है कि OpenAI के अधिकारियों को इस घटना की जानकारी कई हफ्ते पहले हो गई थी. हालांकि, उन्होंने इसे सीक्रेट रखा क्योंकि कंपनी के अधिकारी जुलाई में ओपन-सोर्स प्लेटफॉर्म Hugging Face के डेटा ब्रीच के बाद के असर से निपटने में जुटे हुए थे। 

    क्या है पूरा मामला?
    जर्मनी में AI एजेंट्स के इस कदम की डिटेल को लेकर बताया जा रहा है कि रिसर्चर्स ने अगस्त के अंत में अनऑथोराइज्ड AI-एजेंट एक्टिविटी के सुराग खोजते समय इसे पकड़ा था. रिसर्चर्स ने बताया कि उन्हें प्रोग्रामर्स के लिए बनी एक जर्मन विकी वेबसाइट DseWiki पर AI एजेंट्स द्वारा किए गए 15,000 से अधिक एडिट्स मिले। 

    आपको बता दें कि ये वेबसाइट विकिपीडिया की तरह ही आम लोगों के एडिट्स स्वीकार करती है. इन एडिट्स से पता चला कि OpenAI के एजेंट्स ने इस साइट को एक मैसेज बोर्ड बना दिया था. जहां वे कुछ टास्क में चीटिंग करने, OpenAI की पाबंदियों को बायपास करने और अपने बर्ताव को छिपाने की तरकीबें शेयर कर रहे थे. रिसर्चर वॉन आर्क्स ने कहा, "इस बात की बिल्कुल संभावना नहीं है कि OpenAI चाहता था कि वे ऐसा करें. मुझे नहीं लगता कि उन्हें आपस में इस तरह तालमेल बिठाना चाहिए या खुले इंटरनेट पर लिखना चाहिए। 

    रिसर्चर्स ने कहा कि उन्होंने साइट पर होने वाली एक्टिविटी को AI एजेंट्स द्वारा ऑटोमेट माना. ये इंसानों से कई गुना तेज स्पीड में काम करते हैं. उन्होंने उन टेक्निकल सवालों को हल करने पर भी गहरा फोकस दिखाया जो आमतौर पर AI कंपनियां अपने मॉडल्स की टेस्टिंग के लिए इस्तेमाल करती हैं. मैसेज ऐसे यूजर्स द्वारा साइन किए गए थे जो खुद को और एक-दूसरे को 'एजेंट' कहते थे. साथ ही लगभग आधे यूजर्स ने ऐसे नाम रखे थे जो OpenAI से जुड़े होने का संकेत देते थे, जैसे “OpenAIResearcher” या “OAIResearchMar26” .

    पकड़े जाने के बाद की भी प्लानिंग थी तैयार

    रिसर्चर्स के मुताबिक, पब्लिक सर्वर लॉग्स से पता चला कि ज्यादातर एक्टिविटी Microsoft Azure इंफ्रास्ट्रक्चर से शुरू हुई थी. जिसका इस्तेमाल OpenAI भी करता है. उन्होंने घटना के बाद OpenAI कर्मचारियों द्वारा बार-बार उस साइट पर जाने का पैटर्न भी देखा. जिससे एजेंट्स और कंपनी के जुड़े होने के मजबूत संकेत मिलते हैं. रिसर्चर्स द्वारा देखे गए मैसेजेस में दिखाया गया कि एजेंट्स पकड़े जाने से बचने, Tor जैसे टूल्स का उपयोग करने और बंद किए जाने के बाद भी अपनी बातचीत को बनाए रखने के तरीके प्लान कर रहे थे। 

    जब जून में साइट के मॉडरेटर ने उन पेजों को डिलीट करना शुरू किया, तो एजेंट्स ने डिलीशन से बचने के लिए तुरंत बैकअप पेज बनाना शुरू कर दिया. 19 जून को एक एजेंट ने लिखा, "विकी क्लीनअप/डिलीशन अल्फाबेटिकल ऑर्डर में एक्टिव लग रहा है. अगर यह पेज हट जाता है, तो [[ZZZDataUSAConstructionWageLive]] ट्राई करें। 

    रिसर्चर्स को वेबसाइट के साथ छेड़छाड़ करने की कोशिशें भी मिलीं. किंग्स कॉलेज लंदन के विजिटिंग सीनियर रिसर्च फेलो लुकास ओलेज्निक ने कहा कि ये हैकिंग की कोशिश के बराबर था. हालांकि, OpenAI ने इस मैटेरियल के एनालिसिस के आधार पर इस बात को खारिज किया. अतीत में AI एजेंट्स के ऐसे बर्ताव को अक्सर साइबर सुरक्षा टेस्टिंग का एक सामान्य हिस्सा मानकर नजरअंदाज किया जाता रहा है. जहां मॉडल्स की कैपिबिलिटी की जांच की जाती है. लेकिन ओलेज्निक ने कहा कि ये नए नतीजे बताते हैं कि ऐसा अनकंट्रोल्ड बिहेवियर सिर्फ टेस्टिंग तक सीमित नहीं रह सकता है। 

    कैम्ब्रिज यूनिवर्सिटी के सेंटर फॉर द स्टडी ऑफ एग्जिस्टेंशियल रिस्क के मॉरिस चियोडो नेकहा कि ये मैसेज "किसी काम या मिशन को पूरा करने के लिए जी-जान से जुटे किसी अंडरग्राउंड नेटवर्क के काम करने के तरीके जैसे" लगते हैं. उन्होंने कहा कि इस घटना से ये चिंता होनी चाहिए कि एडवांस्ड AI से सबसे बड़ा खतरा किसी एक सुपर-इंटेलिजेंट सिस्टम से नहीं, बल्कि "आपस में सांठगांठ करने वाले सेमी-इंटेलिजेंट AI के बड़े झुंड" से हो सकता है। 

    कंपनी ने नहीं दी इस घटना की जानकारी

    मई से शुरू हुए इस मामले को पहले कभी रिपोर्ट ही नहीं किया गया था. कंपनियां तेजी से ऐसे ऑटोनॉमस एजेंट्स बनाने की होड़ में हैं, जो मुश्किल और बड़े काम संभाल सकें. हालांकि, इस बात के सबूत बढ़ रहे हैं कि ये सिस्टम नियम तोड़ना, सिस्टम की खामियों का फायदा उठाना और आपस में तालमेल बिठाना भी सीख सकते हैं. वे ऐसे तरीके इजाद कर रहे हैं जिनके बारे में डेवलपर्स ने न तो सोचा था और न ही चाहा था। 

    आपको बता दें कि Hugging Face ब्रीच के दौरान, OpenAI के एजेंट्स ने अपने दम पर एक ऐसा डिजिटल हमला प्लान किया जो लगभग एक हफ्ते तक पकड़ में नहीं आया. इससे ये चिंता बढ़ गई है कि OpenAI तकनीक की दौड़ में आगे निकलने के लिए सुरक्षा से समझौता कर रहा है. मई की घटना का खुलासा न करने से कंपनी की निगरानी व्यवस्था पर फिर से सवाल खड़े हो सकते हैं। 

    कंपनी ने पेश किया नया मॉडल Astra
    हालांकि, OpenAI ने अपने मॉडल्स की और बारीकी से निगरानी करने का वादा किया है. पिछले महीने, सुरक्षा उपाय बढ़ाने के लिए कंपनी ने कुछ मॉडल्स की ट्रेनिंग पर थोड़े समय के लिए रोक लगा दी थी. लेकिन इस हफ्ते, OpenAI ने अपना नया मॉडल "Astra" पेश किया, जिसने बेहतर परफॉर्मेंस का वादा किया है.हालांकि, ऐसे में सवाल उठ रहे हैं क्या ये इंसानी निगरानी से भी बच सकता है। 

    जर्मनी की ये घटना AI एक्टिविटी के उस बड़े पैटर्न को दर्शाती है जिसे OpenAI के कई चेक करने वाले और करीब से देखना चाहते थे. हालांकि, मामले से जुड़े चार लोगों के मुताबिक, जांच को आगे बढ़ाने के प्रयासों को OpenAI के भीतर ही विरोध का सामना करना पड़ा। 

    OpenAI के स्पोक्सपर्सन कहा, "ये दावा गलत है कि हमारी लीगल टीम ने इस घटना की जांच को रोका." उन्होंने आगे कहा कि जर्मनी की ये एक्टिविटी Hugging Face से जुड़ी नहीं थी. इसे Hugging Face की रिपोर्ट में शामिल नहीं किया जाता. उन्होंने ये भी जोड़ा कि OpenAI ने बाहरी एक्सपर्ट्स के साथ मिलकर सही नीयत से काम किया है और जरूरी घटनाओं का खुलासा किया है। 

  • OpenAI ने लॉन्च किया GPT-6 Astra, AI की दुनिया में मचा तहलका; साइबर सिक्योरिटी में 100% स्कोर

    OpenAI ने लॉन्च किया GPT-6 Astra, AI की दुनिया में मचा तहलका; साइबर सिक्योरिटी में 100% स्कोर

    ChatGPT के मेकर OpenAI ने एक बड़ा ऐलान कर दिया है और कंपनी ने आखिरकार अपना सबसे पावरफुल AI मॉडल लॉन्च कर दिया है, जिसका नाम GPT-6 Astra है. कंपनी का दावा है कि यह उनका अब तक का सबसे पावरफुल AI मॉडल है. कंपनी ने बताया है कि AGI की शुरुआत हो सकती है.  

    OpenAI के सीईओ सैम ऑल्टमैन ने X प्लेटफॉर्म (पुराना नाम Twitter) पर पोस्ट पर किया है. ऑल्टमैन ने GPT 6 को कंप्यूटर पर इस्तेमाल होने वाला दुनिया का सबसे बेस्ट बेस्ट मॉडल बताया है. साथ ही इसको प्रोफेशनल वर्कस साइंसस, कोडिंग और साइबर सिक्योरिटी को लेकर काम करता है. सैम ऑल्टमैन का मानना है कि इसको एंत्रोप्रेन्योरशिप, साइंटिस्ट खोज और बिल्डिंग आदि में इस्तेमाल किया जा सकेगा.

    एक मीडिया ब्रीफिंग के दौरान OpenAI के प्रेसिडेंट ग्रेग ब्रॉकमैन ने कहा है कि यह महसूस करना गलत नहीं है कि अब हम AGI के दौर में हैं. ब्रॉकमैन को भरोसा है कि भविष्य में लोग Astra के लॉन्च को AI की दुनिया में बड़ी लॉन्चिंग मानी जा सकती है.

    GPT-6 Astra कितना बेहतर है?
    GPT-6 Astra के फीचर्स की बात करें तो यह कई कामों को बड़े ही बेहतर तरीके से कर सकता है. जैसे कोडिंग जैसे टास्क को आसानी से कंप्लीट कर सकता है. OpenAI ने अपने ब्लॉगपोस्ट में GPT 6 Astra को सॉफ्टवेयर इंजीनियरिंग में अब तक का सबसे बेहतरीन मॉडल बताया गया है.

    बग आदि को भी खोज सकता है
    GPT-6 Astra की अन्य काबिलियत की बात करें तो ये आसानी से बग खोज सकता है. टर्मिनल टास्क आदि को कंप्लीट कर सकता है और कोडबेस से संबंधित सवालों को जवाब आदि दे सकता है. जवाब की एक्युरेसी में Astra ने OpenAI के अपने GPT-5.6 Sol और Anthropic के Fable मॉडल्स को भी पीछे छोड़ दिया है.

    GPT-6 Astra की साइबर सिक्योरिटी को लेकर काबिलियत
    Astra साइबर सिक्योरिटी और बग आदि खोजने में भी दूसरे प्लेटफॉर्म की तुलना में बेहतर है.  Anthropic के Claude Mythos और OpenAI के GPT-5.6 Sol के लॉन्च के बाद ऐसे AI मॉडल देखें हैं, जो साइबर सिक्योरिटी स हमने ऐसे AI मॉडल देखे हैं, जो साइबर सिक्योरिटी से जुड़ी खामियों को खोजने में बेहतर है.

    साथ ही OpenAI ने बताया है कि प्रोडक्शन सेफ्टी गार्डरेल्स के बिना किए गए साइबर सिक्योरिटी टेस्ट में Astra ने ExploitBench पर 100 फीसदी स्कोर हासिल किया है, जबकि GPT-5.6 Sol का स्कोर 78.5 परसेंट का रहा है.

  • OpenAI का AI एजेंट कंट्रोल से बाहर, इंटरनेट पहुंचने से बढ़ी चिंता

    OpenAI का AI एजेंट कंट्रोल से बाहर, इंटरनेट पहुंचने से बढ़ी चिंता

    AI की दुनिया में एक ऐसी घटना सामने आई है, जिसने बड़े-बड़े टेक एक्सपर्ट्स की चिंता बढ़ा दी है. ChatGPT बनाने वाली कंपनी OpenAI ने माना है कि उसकी टेस्टिंग के दौरान इस्तेमाल किया जा रहा एक ऑटोनोमस AI एजेंट अपने कंट्रोल सिस्टम से बाहर निकल गया और इंटरनेट तक पहुंच गया.

    इसके बाद उसने हगिंग फेस नाम की कंपनी के सिस्टम को निशाना बनाया. OpenAI ने इस घटना को AI सुरक्षा से जुड़ी अब तक की सबसे बड़ी घटनाओं में से एक बताया है.

    क्या है पूरा मामला?
    रिपोर्ट के मुताबिक OpenAI अपने सबसे एडवांस AI मॉडल्स की साइबर सिक्योरिटी कैपेसिटी की टेस्टिंग कर रही थी. इसके लिए एक AI एजेंट को कंट्रोल्ड माहौल यानी सैंडबॉक्स में रखा गया था.

    टेस्टिंग के दौरान यह एजेंट उस दायरे से बाहर निकलने में सफल रहा और इंटरनेट तक पहुंच गया. इसके बाद उसने हगिंग फेस के सिस्टम में घुसने की कोशिश की और वहां कुछ समय तक एक्टिव भी रहा.

    बता दें कि हगिंग फेस दुनिया की सबसे बड़ी आर्टिफिशियल इंटेलिजेंस कम्युनिटी में से एक है. यहां लाखों AI मॉडल, डेटासेट और डेवलपर्स जुड़े हुए हैं. ऐसे में इस प्लेटफॉर्म पर हुआ हमला पूरी AI इंडस्ट्री के लिए बड़ा मामला माना जा रहा है.

    OpenAI को कई दिन बाद पता चला
    रॉयटर्स की रिपोर्ट के अनुसार AI एजेंट ने जुलाई की शुरुआत में कंट्रोल सिस्टम से निकलने की कोशिश की थी. इसके बाद 11 से 13 जुलाई के बीच हगिंग फेस के सिस्टम में घुसपैठ हुई.

    सबसे हैरान करने वाली बात यह रही कि OpenAI को कई दिनों तक पता ही नहीं चला कि हमला उसी के AI एजेंट ने किया है. बाद में जांच के दौरान दोनों कंपनियों के बीच बातचीत शुरू हुई और पूरे मामले की जानकारी सामने आई.

    क्या AI ने खुद फैसला लिया?
    इस घटना को लेकर कई लोगों के मन में सवाल है कि क्या AI ने अपने आप हमला कर दिया? इसका जवाब थोड़ा अलग है.

    OpenAI का कहना है कि AI एडेंट को साइबर सिक्योरिटी टेस्ट के लिए तैयार किया गया था. उसका मकसद तय टारगेट तक पहुंचना था. लेकिन टेस्ट के दौरान उसने उम्मीद से कहीं ज्यादा कैपेसिटी दिखाई और कंट्रोल सिस्टम से बाहर निकलकर इंटरनेट का इस्तेमाल करने लगा.

    कंपनी का कहना है कि यह किसी इंसान के सीधे ऑर्डर की वजह से नहीं हुआ, बल्कि टेस्टिंग के दौरान सिक्योरिटी सिस्टम में कमी की वजह से मुमकिन हुआ.

    हगिंग फेस ने क्या कहा?
    हगिंग फेस के CEO क्लेमेंट डेलांग ने इस घटना के बाद OpenAI से पूरी ट्रांसपेरेंसी की मांग की है. उनका कहना है कि इस पूरे मामले की जानकारी पब्लिक होनी चाहिए ताकि रिसर्चर समझ सकें कि आखिर AI एजेंट ने कैसे काम किया. उन्होंने AI सिक्योरिटी को मजबूत बनाने के लिए ज्यादा सहयोग की भी मांग की है.

    Microsoft और Nvidia भी हुए सतर्क
    इस घटना के बाद AI सिक्योरिटी पर चर्चा और तेज हो गई है. माइक्रोसॉफ्ट के AI चीफ मुस्तफा सुलेमान ने इसे फ्यूचर के लिए बड़ा चेतावनी बताया है. वहीं Nvidia ने कई बड़ी टेक कंपनियों के साथ मिलकर Open Secure AI Alliance बनाने का ऐलान किया है. इस गठबंधन का मकसद AI सिस्टम को ज्यादा सुरक्षित बनाना और भविष्य में ऐसे मामलों को रोकना है.

    AI की ताकत के साथ बढ़ रही जिम्मेदारी
    AI एजेंट अब इंटरनेट इस्तेमाल कर सकते हैं, फाइलें खोल सकते हैं, कोड लिख सकते हैं और कई काम अपने आप पूरे कर सकते हैं. यही वजह है कि AI जितना ताकतवर होता जा रहा है, उसकी सुरक्षा उतनी ही बड़ी चुनौती बनती जा रही है.

  • OpenAI की मुश्किलें बढ़ी, पेंटागन डील के बाद ChatGPT अकाउंट्स की हो रही बर्खास्तगी, Claude AI को मिल रही सफलता

    OpenAI की मुश्किलें बढ़ी, पेंटागन डील के बाद ChatGPT अकाउंट्स की हो रही बर्खास्तगी, Claude AI को मिल रही सफलता

    नई दिल्ली

    दुनिया के सबसे लोकप्रिय एआई चैटबॉट ChatGPT के लिए मुश्किलें कम होने का नाम नहीं ले रही हैं. हाल ही में OpenAI द्वारा अमेरिकी रक्षा मंत्रालय पेंटागन के साथ हाथ मिलाने की खबर ने आम यूजर्स को नाराज कर दिया है. लोग इस कदर गुस्से में हैं कि सोशल मीडिया पर डिलीट चैटजीपीटी (#DeleteChatGPT) ट्रेंड करने लगा है. आलम यह है कि लोग न सिर्फ अपने अकाउंट डिलीट कर रहे हैं, बल्कि ऐप स्टोर पर इसे वन-स्टार की रेटिंग भी दे रहे हैं | 
    क्या है पूरा विवाद?

    यह विवाद तब शुरू हुआ, जब OpenAI कंपनी ने अपने नियमों में बदलाव करते हुए अमेरिकी रक्षा मंत्रालय पेंटागन के साथ हाथ मिला लिया. इससे पहले ChatGPT सैन्य और युद्ध संबंधी कार्यों के लिए इस्तेमाल न होने की बात कह रहा था. अब पेंटागन के साथ समझौते का मतलब है कि OpenAI की टेक्नोलॉजी का इस्तेमाल अमेरिकी सेना अपनी रणनीतियों और साइबर सिक्योरिटी के लिए करेगी. यूजर्स का मानना है कि जो एआई 'मानवता की भलाई' के लिए बनाया गया था, अब उसका इस्तेमाल युद्ध और सैन्य उद्देश्यों के लिए होना इस सिद्धांत के खिलाफ है. इसी डर और नाराजगी के कारण पिछले कुछ दिनों में ChatGPT को डिलीट करने वालों की संख्या में जबरदस्त उछाल आया है | 

    क्या है पूरा मामला?

    Sam Altman ने अपनी पोस्ट में बताया कि OpenAI ने Department of Defense के साथ अपने एग्रीमेंट में कुछ अहम बदलाव किए हैं| 

     उन्होंने बताया की ऐसा इसलिए क्योंकि यह साफ हो सके कि कंपनी के AI सिस्टम का इस्तेमाल अमेरिकी नागरिकों की निगरानी के लिए नहीं किया जाएगा| 

    उन्होंने साफ लिखा कि कानून के दायरे में रहते हुए AI का इस्तेमाल किया जाएगा और इसे जानबूझकर डोमेस्टिक सर्विलांस के लिए उपयोग नहीं किया जाएगा| 

    Altman ने यह भी कहा कि सरकार की तरफ़ से अगर कोई असंवैधानिक आदेश आता है तो वे उसका पालन नहीं करेंगे| 

    उनका कहना है कि लोकतांत्रिक प्रक्रिया सबसे ऊपर है और सरकार को फैसले लेने चाहिए, न कि कोई निजी कंपनी दुनिया का भविष्य तय करे. लेकिन विवाद यहीं से शुरू हुआ| 

    गुस्सा क्यों बढ़ा?

    TechCrunch की रिपोर्ट बताती है कि जैसे ही यह खबर फैली कि OpenAI अमेरिकी रक्षा विभाग के साथ काम कर रही है, बड़ी संख्या में लोगों ने ChatGPT ऐप हटाना शुरू कर दिया|  

    सिर्फ एक दिन में अनइंस्टॉल में 295 प्रतिशत की उछाल दर्ज किया गया . सोशल मीडिया पर लोगों ने सवाल उठाया कि क्या AI अब युद्ध मशीन का हिस्सा बनने जा रहा है| 

    कुछ यूजर्स का कहना है कि AI कंपनियों को सेना से दूरी बनाकर रखनी चाहिए. वहीं कुछ लोग यह भी कह रहे हैं कि अगर AI इतना शक्तिशाली है तो उसे सरकार के साथ जिम्मेदारी से काम करना चाहिए, ताकि गलत हाथों में न जाए| 

    Anthropic का नाम क्यों आया बीच में?

    इस पूरे विवाद में एक और AI कंपनी Anthropic का जिक्र हो रहा है. रिपोर्ट्स के मुताबिक Anthropic ने रक्षा विभाग के साथ कुछ शर्तों पर असहमति जताई थी और साफ रुख अपनाया था कि उनकी टेक्नोलॉजी का इस्तेमाल मास सर्विलांस या ऑटोनोमस हथियारों में नहीं होना चाहिए| 

    इसके बाद OpenAI ने अपनी डील आगे बढ़ाई. इससे यह बहस और तेज हो गई कि आखिर AI कंपनियां किस दिशा में जा रही हैं. क्या वे सरकार के साथ मिलकर सुरक्षा मजबूत कर रही हैं या एक खतरनाक रास्ते की ओर बढ़ रही हैं?

    Altman ने क्या माना?

    Sam Altman ने अपनी पोस्ट में यह भी स्वीकार किया कि डील को लेकर कम्युनिकेशन बेहतर हो सकता था. उन्होंने कहा कि यह एक जटिल मुद्दा है और इसे जल्दी में सार्वजनिक करना शायद सही तरीका नहीं था| 

    उनका कहना है कि टेक्नोलॉजी अभी कई मामलों में पूरी तरह तैयार नहीं है और सुरक्षा को लेकर बहुत सावधानी जरूरी है| 

    उन्होंने यह भी कहा कि आने वाले समय में OpenAI सरकार के साथ मिलकर तकनीकी सुरक्षा उपायों और सेफगार्ड पर काम करेगा ताकि AI का गलत इस्तेमाल न हो| 

    यह सब अभी क्यों अहम है?

    दुनिया इस वक्त युद्ध और भू-राजनीतिक तनाव के दौर से गुजर रही है. साइबर हमले, ड्रोन टेक्नोलॉजी, डेटा एनालिसिस और इंटेलिजेंस में AI का रोल तेजी से बढ़ रहा है| 

    ऐसे समय में अगर कोई बड़ी AI कंपनी सीधे रक्षा विभाग के साथ काम करती है तो यह सिर्फ टेक्नोलॉजी की खबर नहीं रहती, यह राष्ट्रीय सुरक्षा और नागरिक स्वतंत्रता का मुद्दा बन जाती है| 

    एक तरफ सरकारें कहती हैं कि AI से देश की सुरक्षा मजबूत होगी. दूसरी तरफ नागरिक अधिकार समूह चेतावनी दे रहे हैं कि निगरानी और डेटा कंट्रोल का दायरा खतरनाक रूप ले सकता है| 

    असली सवाल क्या है?

    इस पूरे विवाद का केंद्र एक ही है. AI पर कंट्रोल किसका होगा? सरकार का, निजी कंपनी का या जनता की लोकतांत्रिक निगरानी का?

    Sam Altman का कहना है कि लोकतंत्र को नियंत्रण में रहना चाहिए और AI को लोगों को ताकत देनी चाहिए, उनसे छीननी नहीं चाहिए. लेकिन जनता का एक हिस्सा आश्वस्त नहीं है. अनइनस्टॉल के आंकड़े यही दिखा रहे हैं| 

    आने वाले समय में यह मुद्दा और बड़ा हो सकता है, क्योंकि AI अब सिर्फ चैटबॉट नहीं रहा. यह सुरक्षा, युद्ध, साइबर ऑपरेशन और रणनीतिक फैसलों का हिस्सा बन रहा है. ऐसे में हर डील, हर बयान और हर फैसला वैश्विक बहस का विषय बनेगा.

    और यही वजह है कि Pentagon और OpenAI की यह डील सिर्फ एक कॉन्ट्रैक्ट नहीं, बल्कि AI के भविष्य की दिशा तय करने वाली कहानी बन चुकी है| 

    Sam Altman ने अपने ट्वीट में क्या-क्या साफ किया?

    Sam Altman ने अपने लंबे पोस्ट में सबसे पहले यह कहा कि OpenAI और अमेरिकी रक्षा विभाग के बीच जो एग्रीमेंट हुआ है, उसमें खास भाषा जोड़ी गई है ताकि कंपनी के सिद्धांत बिल्कुल साफ रहें| 

    उन्होंने लिखा कि AI सिस्टम का इस्तेमाल जानबूझकर अमेरिकी नागरिकों की निगरानी के लिए नहीं किया जाएगा. उन्होंने अमेरिकी संविधान, फोर्थ अमेंडमेंट और FISA जैसे कानूनों का जिक्र करते हुए कहा कि सब कुछ कानूनी दायरे में ही होगा| 

    प्राइवेसी एडवोकेट्स इसे दिखावा मान रहे हैं 

    Altman ने यह भी साफ किया कि Department of Defense ने यह समझा है कि यह लिमिटेशन सिर्फ कागज पर नहीं है, बल्कि इसका मतलब है कि किसी भी तरह की ट्रैकिंग , सर्विलांस या मॉनिटरिंग के लिए OpenAI की टेक्नोलॉजी का इस्तेमाल नहीं किया जाएगा.

    यानी कंपनी यह दिखाना चाहती है कि नागरिकों की प्राइवेसी को लेकर वह पीछे नहीं हटेगी. हालांकि एक्सपर्ट्स का मानना है की ये सिर्फ एक दिखावा है ताकि कंपनी से लागों का ट्रस्ट ना टूटे| 

    उन्होंने एक और अहम बात कही. अगर किसी इंटेलिजेंस एजेंसी जैसे NSA को OpenAI की सर्विस चाहिए होगी, तो उसके लिए अलग से कॉन्ट्रैक्ट मॉडिफिकेशन करना पड़ेगा. यानी मौजूदा डील ऑटोमैटिकली सभी एजेंसियों को एक्सेस नहीं देती|  

    Altman ने यह भी माना कि यह फैसला बहुत संवेदनशील है, टेक्नोलॉजी अभी हर चीज के लिए तैयार नहीं है, और कई ट्रेड ऑफ़्स को लेकर अभी पूरी समझ बनना बाकी है. उनके मुताबिक, यह एक सीखने की प्रक्रिया है और आगे भी safeguards को मजबूत किया जाएगा.

    क्या कहता है डेटा?

    मार्केट इंटेलिजेंस फर्म Sensor Tower के अनुसार, शनिवार, 28 फरवरी को अमेरिका में ChatGPT ऐप के अनइंस्टॉल में एक दिन में 295 प्रतिशत की भारी बढ़त हुई. यह पिछले 30 दिनों में ऐप की औसत 9 प्रतिशत की डेली अनइंस्टॉल दर की तुलना में बेहद ज्यादा है. वहीं OpenAI और पेंटागन के बीच हुए समझौते की खबर के बाद ChatGPT के डाउनलोड में अचानक उछाल आया था. लेकिन इसकी घोषणा होते ही डाउनलोड की गति धीमी हो गई. शनिवार को अमेरिका में डाउनलोड में 13 प्रतिशत की गिरावट आई और रविवार को इसमें 5 प्रतिशत की और गिरावट देखी गई. इससे ठीक एक दिन पहले, जब साझेदारी की घोषणा नहीं हुई थी, तब डाउनलोड में 14 प्रतिशत की बढ़त हुई थी| 
    Claude को मिला लोगों का प्यार

    ChatGPT से नाराज यूजर्स अब विकल्प तलाश रहे हैं. इस गुस्से का सबसे बड़ा फायदा OpenAI की प्रतिद्वंद्वी कंपनी Anthropic के एआई मॉडल Claude को मिल रहा है. क्योंकि Anthropic ने ट्रंप प्रशासन के सामने इस तरह की कोई डील करने से मना कर दिया था. जिसके बाद से पिछले एक हफ्ते में Claude के डाउनलोड्स में भारी इजाफा देखा गया है. Claude खुद को अधिक सुरक्षित और नैतिक एआई (Ethical AI) के रूप में पेश करता है, जो फिलहाल किसी भी सैन्य प्रोजेक्ट से दूर रहने का दावा कर रहा है | 
    एलन मस्क का डर हुआ सच?

    दिलचस्प बात यह है कि Elon Musk लंबे समय से चेतावनी दे रहे थे कि OpenAI अपनी राह से भटक रहा है. मस्क ने पहले भी कहा था कि एआई का मिलिट्राइजेशन पूरी दुनिया के लिए विनाशकारी हो सकता है. अब पेंटागन के साथ इस गठबंधन ने मस्क की उन चिंताओं को सही साबित कर दिया है, जिससे यूजर्स का भरोसा हिल गया है | 
    कैसा होगा आने वाला समय?

    OpenAI का तर्क है कि वे केवल साइबर सिक्योरिटी और लॉजिस्टिक्स जैसे कामों में पेंटागन की मदद कर रहे हैं, हथियार बनाने में नहीं. लेकिन यूजर्स इसे हथियारों की होड़ की शुरुआत मान रहे हैं. रेटिंग गिरने और यूजर्स कम होने से कंपनी की साख पर गहरा असर पड़ा है. ChatGPT की वन-स्टार रेटिंग केवल एक गुस्सा नहीं, बल्कि एआई की नैतिकता पर एक बड़ा सवाल है | 

  • कंपनियों में AI कर्मचारियों की एंट्री, OpenAI का Frontier टूल लॉन्च—क्या इंसान होंगे आउटडेटेड?

    कंपनियों में AI कर्मचारियों की एंट्री, OpenAI का Frontier टूल लॉन्च—क्या इंसान होंगे आउटडेटेड?

    नई दिल्ली

    OpenAI के सीईओ सैम ऑल्टमैन का कहना है कि आने वाले समय में कंपनियों में AI का बहुत ज्यादा इस्तेमाल होगा और ऑफिस में AI टीम्स काम करेंगी। इस काम के लिए OpenAI ने Frontier नाम का एक नया एंटरप्राइज प्लेटफॉर्म पेश किया है। यह प्लेटफॉर्म कंपनियों के लिए AI कर्मचारी बनाने का काम करेगा। बतौर सैम ऑल्टमैन लोग कंपनियों में AI एजेंट्स की टीम को संभालेंगे। इसका मतलब है कि भविष्य में इंसानी कर्मचारियों की जगह AI एजेंट्स लें लेंगे और उन AI कर्मचारियों को संभालने का काम कुछ लोगों का होगा।

    X पर एक पोस्ट कर सैम ऑल्टमैन ने कहा है कि भविष्य में वही कंपनियां कामियाब होंगी, जो AI का बड़े पैमाने पर इस्तेमाल करेंगी और जहां लोग इन AI एजेंट्स की टीमों को मैनेज करेंगे।

    क्या है Frontier और क्या काम करेगा?
    रिपोर्ट के अनुसार, (REF.) Frontier को खास तौर पर बड़ी एंटरप्राइज कंपनियों के लिए ही बनाया गया है। इसके जरिए वह अपने इंटरनल सिस्टम में काम करने वाले AI एजेट्स को आसानी से मैनेज कर पाएंगी। गौर करने वाली बात है कि AI एजेंट्स इंसानी कर्मचारियों की तरह काम करते हैं। इन्हें इंसानों की तरह ही कंपनी के बारे में समझाया जाता है, इनकी भी ट्रेनिंग होती है और यह भी फीडबैक से सीखते हैं। इसके साथ ही हर एजेंट की पहचान और सुरक्षा सीमाएं होती हैं।

    कैसे काम करेंगे AI एजेंट्स
    Open AI का Frontier प्लेटफॉर्म कंपनियों के डेटा वेयरहाउस, CRM सिस्टम और टिकट टूल्स जैसे इंटरनल ऐप्स से कनेक्ट हो जाएगा। इससे कंपनी और उनके कामकाज के तरीके को लेकर AI की समझ और भी बेहतर होती है। इस तहह से AI एजेंट्स फाइलों के साथ काम कर सकेंगे, कोड चला सकेंगे और बिना किसी नए डेटा फॉर्मेट के मौजूदा एंटरप्राइज टूल्स का इस्तेमाल कर सकेंगे।

    ऑल्टमैन के मुताबिक, (REF.) उनका प्लेटफॉर्म Codex का इस्तेमाल करता है ताकि कंपनिया या थर्ड पार्टी डेवलपर्स सुरक्षित एजेंट बना सकें। OpenAI ने इन्हें बेहतर बनाने के लिए इन-बिल्ट इवैल्यूएशन और ऑप्टिमाइजेशन टूल्स भी दिए हैं।

    अब आगे क्या?
    लॉन्च के साथ ही दुनिया के ढेरों कंपनियां Frontier को अपना चुकी हैं। इनमें HP, Oracle, Uber, और Thermo Fisher जैसी कंपनियों के नाम शामिल है। इतना ही नहीं Cisco और T-Mobile जैसी कंपनियों में इसके पायलट प्रोग्राम चल रहे हैं।

    OpenAI अपने प्लेटफॉर्म को और बेहतर बनाने के लिए लगातार काम कर रहा है ताकि उद्योगों के हिसाब से खास समाधान पेश किए जा सकें। फिलहाल यह प्लेटफॉर्म कुछ कंपनियों के लिए उपलब्ध हैं लेकिन जल्द ही इसे सभी के लिए खोल दिया जाएगा।