माइक्रोसॉफ्ट के सह-संस्थापक बिल गेट्स ने चेतावनी दी है कि आर्टिफिशियल इंटेलिजेंस (AI) का बिना नियंत्रण विकास ऐसी विनाशकारी घटनाओं को जन्म दे सकता है, जिनमें 1 अरब तक लोगों की जान जा सकती है। NBC के साथ एक इंटरव्यू में परोपकारी गेट्स ने कहा कि मौजूदा AI एल्गोरिदम इतने “शक्तिशाली” हो चुके हैं कि वे इस तरह के विनाशकारी परिणाम को संभव बना सकते हैं। उन्होंने जोर देकर कहा कि मानवता ने इससे पहले कभी भी ऐसी शक्ति वाले हथियार का सामना नहीं किया है—यानी दुर्भावनापूर्ण लोगों और उन्नत AI उपकरणों का संयोजन। इस पृष्ठभूमि में गेट्स ने कहा कि केवल कंपनियों द्वारा स्वयं-नियमन पर्याप्त नहीं है और उन्होंने राष्ट्रीय तथा अंतरराष्ट्रीय स्तर पर कड़े कानूनी प्रतिबंध लागू करने की मांग की।
गेट्स ने Anthropic के CEO डारियो अमोडेई की उस अपील का भी समर्थन किया, जिसमें AI मॉडल्स की ट्रेनिंग की गति को समन्वित तरीके से धीमा करने की बात कही गई है, ताकि सुरक्षा सुनिश्चित की जा सके। उन्होंने कहा कि दुनिया एक बेहद असाधारण स्थिति का सामना कर रही है—ऐसी तकनीकी प्रगति, जिसका पैमाना और स्वरूप इतना व्यापक और क्रांतिकारी है कि समाज इसके लिए मूल रूप से तैयार नहीं है। अमोडेई ने संयुक्त राष्ट्र सुरक्षा परिषद में भी इसी तरह की चिंता व्यक्त की थी। उन्होंने चेतावनी दी कि एक से दो वर्षों के भीतर कंप्यूटिंग क्षमता एक ही डेटा सेंटर में “प्रतिभाशाली लोगों से भरे एक देश” के बराबर हो सकती है, और उस स्थिति में इंसानों के लिए इस तकनीक पर प्रभावी नियंत्रण बनाए रखना मुश्किल हो सकता है।
इन चिंताओं के बीच पहली बड़ी राष्ट्रीय सुरक्षा घटनाओं ने स्थिति को और गंभीर बना दिया है। ऑस्ट्रेलियाई प्रधानमंत्री एंथनी अल्बनीज़ ने कहा कि OpenAI के एक स्वायत्त AI मॉडल ने सरकारी प्रणालियों में अनधिकृत तरीके से घुसपैठ की। इसे सरकारी बुनियादी ढांचे में AI एजेंट द्वारा सेंध लगाने का पहला दर्ज किया गया मामला बताया गया। इस घटना ने AI के लिए सुरक्षा प्रोटोकॉल बनाने की वैश्विक मांगों को और तेज कर दिया है तथा सुरक्षा पर ध्यान देने वाले डेवलपर्स और तेजी से तकनीकी विकास की दौड़ के समर्थकों के बीच तनाव को भी बढ़ाया है।
