ओपनएआई ने यू.एस. एआई सेफ्टी इंस्टीट्यूट के साथ साझेदारी की घोषणा की है। इस सहयोग के हिस्से के रूप में, ओपनएआई संस्थान को अपने अगले आधारभूत मॉडल, चैटजीपीटी-5 तक शीघ्र पहुँच प्रदान करेगा। ओपनएआई के सीईओ सैम ऑल्टमैन के अनुसार, संघीय निकाय के साथ साझेदारी का उद्देश्य यह सुनिश्चित करना है कि आगामी एआई मॉडल सार्वजनिक रिलीज़ से पहले सुरक्षित और विश्वसनीय हों।
ऑल्टमैन ने प्लेटफ़ॉर्म एक्स पर हाल ही में एक पोस्ट में सहयोग की घोषणा की, जिसमें उन्होंने साझा किया कि “हमारी टीम यू.एस. एआई सेफ्टी इंस्टीट्यूट के साथ एक समझौते पर काम कर रही है, जहाँ हम अपने अगले आधारभूत मॉडल तक शीघ्र पहुँच प्रदान करेंगे ताकि हम एआई मूल्यांकन के विज्ञान को आगे बढ़ाने के लिए मिलकर काम कर सकें।”
इस साझेदारी के तहत, यू.एस. एआई सेफ्टी इंस्टीट्यूट, जिसे औपचारिक रूप से नेशनल इंस्टीट्यूट ऑफ़ स्टैंडर्ड्स एंड टेक्नोलॉजी (NIST) द्वारा स्थापित किया गया है, को एआई मापन और नीति के लिए दिशा-निर्देश और मानक विकसित करने का काम सौंपा गया है, ताकि यह सुनिश्चित किया जा सके कि सुरक्षा प्रोटोकॉल मज़बूत और अनुभवजन्य रूप से मान्य हों।
ओपनएआई और यू.एस. एआई सेफ्टी इंस्टीट्यूट के बीच साझेदारी की घोषणा एआई सुरक्षा और ओपनएआई की प्राथमिकताओं की दिशा के बारे में बढ़ती चिंताओं के बीच हुई है। इस साल की शुरुआत में मई में, OpenAI ने अपनी सुपरअलाइनमेंट टीम को भंग कर दिया, जो यह सुनिश्चित करने के लिए समर्पित थी कि AI मॉडल मानवीय इरादों के साथ संरेखित हों और ‘दुष्ट’ न हों। इस विघटन के बाद, कई प्रमुख टीम के सदस्यों ने OpenAI को छोड़ दिया, जिसमें जान लीके और सह-संस्थापक इल्या सुत्सकेवर शामिल थे। लीके बाद में एंथ्रोपिक AI में शामिल हो गए, जबकि सुत्सकेवर ने एक नए AI सुरक्षा स्टार्टअप, सेफ सुपरइंटेलिजेंस इंक की स्थापना की।
लीके ने OpenAI के वादे के मुताबिक संसाधनों की कमी पर भी निराशा व्यक्त की, विशेष रूप से कंप्यूट पावर, जिसे सुरक्षा प्रयासों का समर्थन करना चाहिए था। उन्होंने सुरक्षा सुनिश्चित करने के बजाय नए उत्पादों के लॉन्च को प्राथमिकता देने के लिए OpenAI के नेतृत्व की आलोचना की। हालाँकि, इस चिंता का जवाब देते हुए, ऑल्टमैन ने सुरक्षा के लिए कंपनी की प्रतिबद्धता को दोहराया। सैम ने उल्लेख किया कि कंपनी अपने कंप्यूटिंग संसाधनों का कम से कम 20 प्रतिशत सुरक्षा प्रयासों के लिए आवंटित कर रही है, जो जुलाई में शुरू में किया गया एक वादा है।
इस बीच, सहयोग की घोषणा में, ऑल्टमैन ने कर्मचारी अनुबंधों से गैर-अपमानजनक खंडों को हटाने की भी घोषणा की है। इस कदम का उद्देश्य एक ऐसा माहौल तैयार करना है, जहाँ वर्तमान और भूतपूर्व कर्मचारी बिना किसी प्रतिशोध के डर के अपनी चिंताएँ व्यक्त करने के लिए स्वतंत्र महसूस करें। “यह किसी भी कंपनी के लिए महत्वपूर्ण है, लेकिन हमारे लिए विशेष रूप से, और हमारी सुरक्षा योजना का एक महत्वपूर्ण हिस्सा है,” ऑल्टमैन ने अपने पोस्ट में लिखा।
विशेष रूप से, यू.एस. एआई सुरक्षा संस्थान के साथ ओपनएआई की साझेदारी एआई सुरक्षा पर सरकारी निकायों के साथ इसका पहला सहयोग नहीं है। पिछले साल, ओपनएआई और डीपमाइंड दोनों ने यूके सरकार के साथ अपने एआई मॉडल साझा करने पर सहमति व्यक्त की, जो एआई डेवलपर्स और नियामक निकायों के बीच सहयोग की बढ़ती प्रवृत्ति को रेखांकित करता है।
इसके अतिरिक्त, ओपनएआई ने सेवानिवृत्त यू.एस. सेना जनरल पॉल एम. नाकासोन को सुरक्षा और शासन पर ध्यान केंद्रित करने के लिए अपने निदेशक मंडल में नियुक्त किया, उनकी नियुक्ति की घोषणा करते हुए, ओपनएआई ने अपने ब्लॉग पोस्ट में लिखा कि “नाकासोन की नियुक्ति सुरक्षा और सुरक्षा के लिए ओपनएआई की प्रतिबद्धता को दर्शाती है, और एआई तकनीक के प्रभाव के बढ़ने के साथ साइबर सुरक्षा के बढ़ते महत्व को रेखांकित करती है।”
