हाल ही में, एक उन्नत और शक्तिशाली AI सिस्टम, जीपीटी-4, में एक महत्वपूर्ण कमजोरी हुई है। यह द्रास्तव्य बदलाव समाज के लिए इसके पीछे के कारणों और इसके प्रभावों पर सवाल उठाता है।
स्टैनफोर्ड और UC बर्कले के शोधकर्ताओं ने इस विषय पर एक रोचक लेख प्रकाशित किया है, जिसमें इस परिवर्तन और उसके संभावित कारणों के बारे में जानकारी दी गई है। (अधिक जानकारी के लिए देखें: https://arxiv.org/pdf/2307.09009.pdf)
लेख में यह दिखाया गया है कि नवीनतम तकनीकी से मार्च से जून 2022 तक, जीपीटी-4 के लिए निष्पादन योग्य कोड की पीढ़ी 52% से 10% तक और जीपीटी-3.5 के लिए 22% से 2% तक गिर गई है।
जीपीटी-4 एक "बड़ा और अद्वितीय" टुकड़ा नहीं रहा है, बल्कि कई छोटे, विशेषीकृत और जुड़े हुए टुकड़े बन गए हैं। और पाया गया है कि ये छोटे टुकड़े एकसाथ इतनी अच्छी तरह से काम नहीं करते हैं जैसे जब यह एक एकल केंद्रीय टुकड़ा था।
व्यावहारिक रूप में, इसका अर्थ है कि जब एक उपयोगकर्ता सवाल पूछता है, सिस्टम तय करता है कि किस मॉडल को क्वेरी भेजना है। अब तक, ऐसा लगता है कि सिस्टम अधिकांश क्वेरी को "कम बुद्धिमान" मॉडलों को भेज रहा था।
यह कमजोरी काफी महत्वपूर्ण है: "उदाहरण के लिए, जीपीटी-4 (मार्च 2023) कोड प्राइम नंबर्स की पहचान में बहुत अच्छा था (97.6% की सटीकता), लेकिन जीपीटी-4 (जून 2023) इसी सवाल पर बहुत खराब था (2.4% की सटीकता)। दिलचस्पी से, जीपीटी-3.5 (जून 2023) इस कार्य में जीपीटी-3.5 (मार्च 2023) से बेहतर था। जीपीटी-4 जून में मार्च की तुलना में संवेदनशील सवालों के जवाब देने के लिए कम उत्सुक था, और जीपीटी-4 और जीपीटी-3.5 ने जून में कोड निर्माण में अधिक फॉर्मेटिंग त्रुटियों की ग़लतियाँ की।"
जीपीटी-4 की कमजोरी के कई सिद्धांतों की व्याख्या करने के लिए कई सिद्धांत हैं। कुछ लोग सोचते हैं कि इसका आर्थिक व्यवहार्यता, प्रदर्शन और सिस्टम की विस्तारयोग्यता से संबंधित हो सकता है।
एक और सिद्धांत यह सुझाता है कि कुछ कंपनियाँ या संगठनों ने जीपीटी-4 की शक्ति को बहुत अधिक माना हो सकता है, और केवल कुछ ही लोगों और संगठनों को इसका उपयोग करने की अनुमति हो सकती है। इसका मतलब है कि सामान्य जनता केवल एक कमजोर संस्करण का उपयोग कर सकती है, जो अधिकारी और समाज के अन्य हिस्से के बीच अंत