नई शोध में भाषा मॉडल और मानव संज्ञानात्मक प्रक्रियाओं के बीच समानताएं प्रकट हुईं

क्या हुआ

Anthropic AI ने अपनी भाषा मॉडल Claude की आंतरिक संरचना का गहराई से अन्वेषण करने वाली एक श्रृंखला प्रकाशित की है। विशेष रूप से, उन्होंने "J-space" नामक एक घटक की पहचान की है, जो एक वैश्विक कार्यक्षेत्र के रूप में कार्य करता है और Claude को आंतरिक तर्क करने और मानव संज्ञानात्मक प्रक्रियाओं जैसे जागरूक सोच, गलत जानकारी का पता लगाने या बहु-चरण तर्क करने जैसी स्थिति जागरूकता बनाए रखने की अनुमति देता है। ये क्षमताएं मानव मस्तिष्क में स्वचालित और विचारशील प्रसंस्करण के बीच के अंतर के समान हैं।

साथ ही, NVIDIA AI ने ICML में प्रस्तुत एक अकादमिक अध्ययन को उजागर किया है जो GPT-शैली के भाषा मॉडलों की मेमोरी क्षमता का मूल्यांकन करता है, और इसे लगभग 3.6 बिट्स प्रति पैरामीटर के रूप में अनुमानित करता है। इसके अलावा, यह शोध अनजाने मेमोरीकरण और सामान्यीकरण के बीच अंतर करता है, जो मौलिक मॉडलों में गोपनीयता और डेटा स्केलेबिलिटी जैसे महत्वपूर्ण विषयों पर नई अंतर्दृष्टि प्रदान करता है।

क्यों महत्वपूर्ण है

Anthropic का काम कृत्रिम बुद्धिमत्ता मॉडलों की व्याख्यात्मकता और विश्वास में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है। "J-space" को देखने और ऑडिट करने की क्षमता उन उपकरणों के लिए द्वार खोलती है जो मॉडल के आंतरिक तर्क को पारदर्शी बनाते हैं, जो विश्वसनीयता बनाए रखने और अवांछित व्यवहारों को नियंत्रित करने के लिए महत्वपूर्ण है क्योंकि ये तकनीकें जटिलता और क्षमता में बढ़ती हैं।

साथ ही, NVIDIA का शोध पैरामीट्रिक क्षमता और मेमोरीकरण के बीच संबंध को समझने के लिए एक नवीन मात्रात्मक मेट्रिक प्रदान करता है, जो प्रशिक्षित डेटा की गोपनीयता से संबंधित जोखिमों के प्रबंधन और भविष्य के GPT मॉडलों के डिजाइन और स्केलेबिलिटी के अनुकूलन के लिए आवश्यक है।

दोनों योगदान कंप्यूटर विज्ञान और संज्ञानात्मक विज्ञान के बीच बढ़ती संगम को दर्शाते हैं, जो सुझाव देते हैं कि भाषा मॉडलों की संरचना और कार्यप्रणाली न्यूरोसाइंस और मनोविज्ञान के दर्शन से प्रेरित हो सकती है।

क्या पुष्टि की जानी बाकी है

हालांकि Anthropic के "J-space" के निष्कर्ष दिलचस्प सबूत प्रस्तुत करते हैं, इन अवधारणाओं को अन्य मॉडलों और वास्तविक उपयोग परिदृश्यों में सामान्यीकृत करने के लिए कई स्वतंत्र सत्यापन और व्यापक मूल्यांकन बाकी हैं। इसके अलावा, AI में विश्वास बढ़ाने के लिए इन आंतरिक ऑडिटों का व्यावहारिक अनुप्रयोग वाणिज्यिक पैमाने पर प्रदर्शित होना बाकी है।

दूसरी ओर, NVIDIA के मेमोरी क्षमता अध्ययन को उन अनुसंधानों के साथ पूरक किया जाना चाहिए जो इन मेट्रिक्स के गोपनीयता और सुरक्षा पर परिचालन वातावरण में प्रभाव का सीधे विश्लेषण करते हैं, साथ ही अवांछित मेमोरी के खिलाफ शमन विधियों की प्रभावशीलता का भी।

स्रोत

- AnthropicAI, सार्वजनिक ट्वीट्स - Claude में "J-space" और संज्ञान पर शोध: https://x.com/AnthropicAI/status/2074185348142280912 https://x.com/AnthropicAI/status/2074185387577094398 https://x.com/AnthropicAI/status/2074185378404192561 https://x.com/AnthropicAI/status/2074185358678364414 https://x.com/AnthropicAI/status/2074185384792109380

- NVIDIA AI, सार्वजनिक ट्वीट - GPT मॉडलों में मेमोरीकरण: https://x.com/NVIDIAAI/status/2074162777535516985