कैलिफ़ोर्निया के गवर्नर गेविन न्यूसोम ने रविवार को बड़े कृत्रिम बुद्धिमत्ता मॉडल के लिए देश में पहली बार सुरक्षा उपाय स्थापित करने के उद्देश्य से एक ऐतिहासिक विधेयक को वीटो कर दिया।

यह निर्णय घरेलू उद्योग पर लगाम लगाने के प्रयासों के लिए एक बड़ा झटका है जो कम निगरानी के साथ तेजी से विकसित हो रहा है। समर्थकों ने कहा कि इस विधेयक ने देश में बड़े पैमाने पर एआई मॉडल पर कुछ पहले नियम स्थापित किए होंगे और पूरे देश में एआई सुरक्षा नियमों का मार्ग प्रशस्त किया होगा।

इस महीने की शुरुआत में, डेमोक्रेटिक गवर्नर ने सॉफ्टवेयर दिग्गज सेल्सफोर्स द्वारा आयोजित एक वार्षिक सम्मेलन, ड्रीमफोर्स में दर्शकों से कहा कि कैलिफोर्निया को संघीय निष्क्रियता की स्थिति में एआई को विनियमित करने में नेतृत्व करना चाहिए, लेकिन यह प्रस्ताव “उद्योग पर एक भयावह प्रभाव डाल सकता है।”

न्यूजॉम ने कहा कि प्रस्ताव, जिसका स्टार्टअप्स, तकनीकी दिग्गजों और कई डेमोक्रेटिक हाउस सदस्यों ने कड़ा विरोध किया, कठोर आवश्यकताओं को स्थापित करके घरेलू उद्योग को नुकसान पहुंचा सकता था।

न्यूजॉम ने एक बयान में कहा, “नेक इरादे के बावजूद, एसबी 1047 इस बात पर ध्यान नहीं देता है कि एआई सिस्टम उच्च जोखिम वाले वातावरण में तैनात किया गया है या नहीं, इसमें महत्वपूर्ण निर्णय लेना या संवेदनशील डेटा का उपयोग शामिल है।” यहां तक ​​कि सबसे बुनियादी कार्यों के लिए भी कड़े मानक – जब तक कि एक बड़ी प्रणाली इसे तैनात करती है। मैं नहीं मानता कि जनता को प्रौद्योगिकी द्वारा उत्पन्न वास्तविक खतरों से बचाने का यह सबसे अच्छा तरीका है।

न्यूजॉम ने इसके बजाय रविवार को घोषणा की कि राज्य शक्तिशाली एआई मॉडल के आसपास रेलिंग विकसित करने के लिए एआई अग्रणी फी-फी ली सहित कई उद्योग विशेषज्ञों के साथ साझेदारी करेगा। ली ने एआई सुरक्षा प्रस्ताव का विरोध किया।

एआई द्वारा उत्पन्न संभावित जोखिमों को कम करने के उद्देश्य से किए गए इस उपाय के लिए कंपनियों को अपने मॉडलों का परीक्षण करने और सार्वजनिक रूप से अपने सुरक्षा प्रोटोकॉल का खुलासा करने की आवश्यकता होगी ताकि मॉडलों में हेरफेर को रोका जा सके, उदाहरण के लिए, राज्य के इलेक्ट्रिक ग्रिड को खत्म करना या रासायनिक हथियार बनाने में मदद करना। विशेषज्ञों का कहना है कि ये परिदृश्य भविष्य में संभव हो सकते हैं क्योंकि उद्योग तेजी से आगे बढ़ रहा है। इससे श्रमिकों को व्हिसलब्लोअर सुरक्षा भी प्रदान की जाती।

बिल के लेखक, डेमोक्रेटिक राज्य सीनेटर स्कॉट वेनर ने वीटो को “हर किसी के लिए एक झटका कहा है जो बड़े निगमों की निगरानी में विश्वास करते हैं जो महत्वपूर्ण निर्णय ले रहे हैं जो जनता की सुरक्षा और कल्याण और ग्रह के भविष्य को प्रभावित करते हैं।”

“उन्नत एआई सिस्टम विकसित करने वाली कंपनियां स्वीकार करती हैं कि ये मॉडल जनता के लिए जो जोखिम पेश करते हैं वे वास्तविक हैं और तेजी से बढ़ रहे हैं। वीनर ने रविवार दोपहर एक बयान में कहा, हालांकि बड़ी एआई प्रयोगशालाओं ने इन जोखिमों की निगरानी और उन्हें कम करने के लिए सराहनीय प्रतिबद्धताएं की हैं, लेकिन सच्चाई यह है कि उद्योग की स्वैच्छिक प्रतिबद्धताएं लागू करने योग्य नहीं हैं और शायद ही कभी जनता के लिए अच्छा काम करती हैं।

वीनर ने कहा कि बिल के आसपास की बहस ने एआई सुरक्षा के मुद्दे को नाटकीय रूप से आगे बढ़ाया है, और वह उस बिंदु पर जोर देना जारी रखेंगे।

यह कानून एआई को विनियमित करने, डीपफेक से लड़ने और श्रमिकों की सुरक्षा के लिए इस साल विधानमंडल द्वारा पारित किए गए कई विधेयकों में से एक है। राज्य के सांसदों ने कहा कि कैलिफ़ोर्निया को इस साल कार्रवाई करनी चाहिए, उन्होंने सोशल मीडिया कंपनियों पर लगाम लगाने में नाकाम रहने से सीखे गए कठिन सबक का हवाला देते हुए कहा, जब उन्हें मौका मिला होगा।

एलोन मस्क और एंथ्रोपिक सहित उपाय के समर्थकों ने कहा कि प्रस्ताव बड़े पैमाने पर एआई मॉडल के आसपास कुछ स्तरों की पारदर्शिता और जवाबदेही को शामिल कर सकता है, क्योंकि डेवलपर्स और विशेषज्ञों का कहना है कि उन्हें अभी भी इस बात की पूरी समझ नहीं है कि एआई मॉडल कैसे व्यवहार करते हैं और क्यों।

बिल उन प्रणालियों को लक्षित करता है जिनके निर्माण के लिए उच्च स्तर की कंप्यूटिंग शक्ति और $100 मिलियन से अधिक की आवश्यकता होती है। कोई भी मौजूदा एआई मॉडल उस सीमा तक नहीं पहुंचा है, लेकिन कुछ विशेषज्ञों ने कहा कि यह अगले साल के भीतर बदल सकता है।

“यह उद्योग के भीतर बड़े पैमाने पर निवेश के कारण है,” ओपनएआई के पूर्व शोधकर्ता डैनियल कोकोटाजलो ने कहा, जिन्होंने एआई जोखिमों के लिए कंपनी की उपेक्षा के कारण अप्रैल में इस्तीफा दे दिया था। “यह किसी भी निजी कंपनी को बेहिसाब तरीके से नियंत्रित करने की शक्ति की एक पागल राशि है, और यह अविश्वसनीय रूप से जोखिम भरा भी है।”

जोखिमों को सीमित करने के लिए एआई को विनियमित करने में संयुक्त राज्य अमेरिका पहले से ही यूरोप से पीछे है। समर्थकों ने कहा कि कैलिफोर्निया का प्रस्ताव यूरोप के नियमों जितना व्यापक नहीं था, लेकिन यह तेजी से बढ़ती प्रौद्योगिकी के चारों ओर रेलिंग स्थापित करने के लिए एक अच्छा पहला कदम होता, जो नौकरी छूटने, गलत सूचना, गोपनीयता के आक्रमण और स्वचालन पूर्वाग्रह के बारे में चिंताएं बढ़ा रही है।

पिछले साल कई प्रमुख एआई कंपनियां स्वेच्छा से व्हाइट हाउस द्वारा निर्धारित सुरक्षा उपायों का पालन करने के लिए सहमत हुईं, जैसे कि उनके मॉडलों का परीक्षण और जानकारी साझा करना। उपाय के समर्थकों ने कहा कि कैलिफ़ोर्निया बिल में एआई डेवलपर्स को उन प्रतिबद्धताओं के समान आवश्यकताओं का पालन करना अनिवार्य होगा।

लेकिन पूर्व यूएस हाउस स्पीकर नैन्सी पेलोसी सहित आलोचकों ने तर्क दिया कि यह बिल “कैलिफ़ोर्निया तकनीक को ख़त्म कर देगा” और नवाचार को दबा देगा। उन्होंने कहा कि इससे एआई डेवलपर्स बड़े मॉडलों में निवेश करने या ओपन-सोर्स सॉफ्टवेयर साझा करने से हतोत्साहित होंगे।

बिल को वीटो करने का न्यूजॉम का निर्णय कैलिफोर्निया में बड़ी तकनीकी कंपनियों और एआई डेवलपर्स के लिए एक और जीत का प्रतीक है, जिनमें से कई ने पिछले साल गवर्नर और सांसदों को एआई नियमों को आगे बढ़ाने से रोकने के लिए कैलिफोर्निया चैंबर ऑफ कॉमर्स के साथ पैरवी करते हुए बिताया था।

दो अन्य व्यापक एआई प्रस्ताव, जिन्हें तकनीकी उद्योग और अन्य लोगों के बढ़ते विरोध का भी सामना करना पड़ा, पिछले महीने विधायी समय सीमा से पहले ही खत्म हो गए। बिल में एआई डेवलपर्स को एआई-जनित सामग्री को लेबल करने और रोजगार निर्णय लेने के लिए उपयोग किए जाने वाले एआई टूल से भेदभाव पर प्रतिबंध लगाने की आवश्यकता होगी।

गवर्नर ने इस गर्मी की शुरुआत में कहा था कि वह एआई में वैश्विक नेता के रूप में कैलिफोर्निया की स्थिति की रक्षा करना चाहते हैं, यह देखते हुए कि दुनिया की शीर्ष 50 एआई कंपनियों में से 32 राज्य में स्थित हैं।

उन्होंने कैलिफ़ोर्निया को प्रारंभिक अपनाने वाले के रूप में प्रचारित किया है क्योंकि राज्य जल्द ही राजमार्ग की भीड़ को संबोधित करने, कर मार्गदर्शन प्रदान करने और बेघर कार्यक्रमों को सुव्यवस्थित करने के लिए जेनेरिक एआई उपकरण तैनात कर सकता है। राज्य ने पिछले महीने छात्रों, कॉलेज संकाय, डेवलपर्स और डेटा वैज्ञानिकों को प्रशिक्षित करने में मदद के लिए एआई दिग्गज एनवीडिया के साथ एक स्वैच्छिक साझेदारी की भी घोषणा की। कैलिफ़ोर्निया भर्ती प्रथाओं में एआई भेदभाव के खिलाफ नए नियमों पर भी विचार कर रहा है।

इस महीने की शुरुआत में, न्यूजॉम ने चुनावी डीपफेक पर नकेल कसने और हॉलीवुड कर्मियों को अनधिकृत एआई उपयोग से बचाने के उपायों के लिए देश के कुछ सबसे सख्त कानूनों पर हस्ताक्षर किए।

लेकिन न्यूजॉम के वीटो के साथ भी, कैलिफोर्निया सुरक्षा प्रस्ताव अन्य राज्यों में कानून निर्माताओं को इसी तरह के उपाय करने के लिए प्रेरित कर रहा है, फ्यूचर ऑफ प्राइवेसी फोरम के उप निदेशक तातियाना राइस ने कहा, एक गैर-लाभकारी संस्था जो प्रौद्योगिकी और गोपनीयता प्रस्तावों पर कानून निर्माताओं के साथ काम करती है।

राइस ने कहा, “वे संभावित रूप से या तो इसकी नकल करने जा रहे हैं या अगले विधायी सत्र में कुछ ऐसा ही करेंगे।” “तो यह दूर नहीं जा रहा है।”

एसोसिएटेड प्रेस और ओपनएआई ने किया है एक लाइसेंसिंग और प्रौद्योगिकी समझौता जो ओपनएआई को एपी के टेक्स्ट आर्काइव्स के हिस्से तक पहुंच की अनुमति देता है।