आर्टिफिशियल इंटेलिजेंस यानी AI पूरी दुनिया में काफी तेजी से अपने पैर पसार रहा है. टेक कंपनियों से लेकर आम यूजर्स तक एआई का इस्तेमाल काफी तेजी से बढ़ा है. लेकिन अब एआई की सुरक्षा को लेकर भी कई सारे सवाल उठ रहे हैं. Anthropic के एक प्रमुख AI सेफ्टी रिसर्चर ने ऐसा दावा किया है जिसने टेक्नोलॉजी की दुनिया में नई बहस छेड़ दी है. उनका मानना है कि आने वाले दशक में AI के इतना शक्तिशाली हो जाने का खतरा है कि ये पूरी ह्यूमन प्रजाति के लिए गंभीर खतरा बन सकता है.

इंसानों को खत्म कर देगा AI?

दरअसल, Anthropic के AI Alignment रिसर्चर Evan Hubinger ने सोशल मीडिया प्लेटफॉर्म X पर अपनी चिंता जाहिर की है. उनके मुताबिक, फिलहाल जो मौजूदा AI मॉडल्स हैं उनसे इंसानों को ज्यादा खतरा नहीं है लेकिन आने वाले समय में अगर एआई अपने आप को बेहतर बना लेता है तो ये इंसानों के लिए खतरा साबित हो सकता है. Hubinger का अंदाजा है कि अगले 10 सालों में एआई के इंसानी सभ्यता को खत्म करने का प्रतिशत 10 फीसदी से भी ज्यादा हो सकता है. उनका मानना है कि अगर एआई अपनी ताकत को बढ़ा लेता है और अपने आप में सुधार लाता है तो ये इंसानों के लिए बहुत बड़ा खतरा बन सकता है.

AI एजेंट्स के साइबर अटैक ने बढ़ाई चिंता

जानकारी के अनुसार, AI सेफ्टी को लेकर चिंता ऐसे समय बढ़ी है जब कई कंपनियों के AI सिस्टम से जुड़े साइबर सुरक्षा मामले सामने आए हैं. AI एजेंट्स ऐसे सिस्टम हैं जो इंसान के कमांड्स के बिना कई काम खुद करने में सक्षम होते हैं.

हाल के महीनों में OpenAI, Anthropic और Meta ने अपने AI टूल्स से जुड़े हैकिंग या साइबर एक्टिविटी के मामलों का खुलासा किया है.

क्या Superintelligence के लिए तैयार है हम?

आपको बता दें कि Hubinger ने ये भी कहा कि AI को इंसानों के इच्छाओं के अनुरूप बनाए रखने के लिए अभी जितने समाधान की जरूरत है उतने मौजूद नहीं हैं. इसे AI Alignment कहा जाता है जिसका मकसद ये सुनिश्चित करना है कि ज्यादा पावरफुल AI सिस्टम इंसानों के हितों के लिए काम करे न की उनके खिलाफ.

उनके अनुसार, AI कंपनियां सुरक्षा पर काम कर रही हैं लेकिन सुपरइंटेलिजेंस के सामने आने वाले खतरों को पूरी तरह कंट्रोल करने की क्लियर प्लानिंग फिलहाल तैयार नहीं है. इसीलिए हम अभी सुपरइंटेलिजेंस के लिए अच्छी तरह से तैयार नहीं हैं.

Anthropic की रिपोर्ट में भी चेतावनी

दरअसल, Anthropic ने अगस्त में जारी अपनी एक सेफ्टी रिपोर्ट जारी की थी जिसमें एआई को लेकर आगे आने वाले समय में खतरों के बारे में बताया गया था. इस रिपोर्ट में साफ बताया गया था कि अगर एआई अपने आप को ज्यादा पावरफुल बना लेता है तो ये इंसानों के लिए भविष्य में खतरा बन सकता है.