Summary of Artificial Intelligence Podcast Podcast Episode: Daniel Kahneman on AI: Thinking Fast and Slow with Lex Fridman
Podcast: Artificial Intelligence Podcast
9 min. read
— Description —
Discover the fascinating insights of Daniel Kahneman on the power of our subconscious thinking and the influence of stories on our beliefs Explore the limitations of artificial general intelligence and the role of memory in shaping our decisions Gain a deeper understanding of why changing opinions can be so challenging.
Daniel Kahneman on AI: Thinking Fast and Slow with Lex Fridman
Table of contents
चाबी छीनना
उल्लेखित पुस्तकें
पहचान
सिस्टम 1 और सिस्टम 2 सोच
सिस्टम 1 और 2 की सोच गहन शिक्षण पर लागू होती है
स्वायत्त ड्राइविंग
क्या रोबोट और मनुष्य सफलतापूर्वक सहयोग कर सकते हैं?
तर्क समझाने पर
स्वयं का अनुभव करना बनाम स्वयं को याद रखना
सुखी जीवन के लिए क्या आवश्यक है?
विक्टर फ्रैंकल द्वारा मैन्स सर्च फॉर मीनिंग
🎧अपना मन कैसे बदलें
जीवन का अर्थ क्या है?
अतिरिक्त टिप्पणी
चाबी छीनना
- सिस्टम 1 की सोच तेज़ है, सीखे गए व्यवहार पर निर्भर करती है, और अधिकतर भावनात्मक होती है; सिस्टम 2 की सोच धीमी, सुविचारित और अधिक तार्किक है
- “ज्यादातर मामलों में, आपके कारणों का इस बात से बहुत कम लेना-देना होता है कि आप जो मानते हैं उस पर आप क्यों विश्वास करते हैं। कारण एक कहानी है जो आपके दिमाग में तब आती है जब आपको खुद को समझाने की जरूरत होती है। -डैनियल कन्नमन
- हम अभी भी वास्तविक कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) से बहुत दूर हैं
- हमारे निर्णय और कार्य किसी अनुभव की हमारी स्मृतियों से संचालित होते हैं, स्वयं अनुभव से नहीं
- एक बार जब लोग एक राय बना लेते हैं, तो वे इसे बदलने के लिए अविश्वसनीय रूप से अनिच्छुक होते हैं
- “हमारे पास जो राय है वह इसलिए नहीं है क्योंकि हम जानते हैं कि हमारे पास वे क्यों हैं, बल्कि इसलिए है क्योंकि हम कुछ लोगों पर भरोसा करते हैं दूसरों पर नहीं। यह कहानियों की तुलना में सबूतों के बारे में बहुत कम है।” -डैनियल कन्नमन
उल्लेखित पुस्तकें
- डैनियल और लेक्स ने विक्टर फ्रेंकल द्वारा लिखित मैन्स सर्च फॉर मीनिंग पर चर्चा की, विशेष रूप से विक्टर की थीसिस कि जीवन में एक सकारात्मक उद्देश्य की पहचान करने से व्यक्ति को दुख से बचाया जा सकता है।
पहचान
-
डैनियल कन्नमैन थिंकिंग, फास्ट एंड स्लो के लेखक हैं और 2002 में अर्थशास्त्र विज्ञान में नोबेल पुरस्कार के प्राप्तकर्ता हैं।
- डैनियल के बारे में अधिक जानने के लिए, द नॉलेज प्रोजेक्ट पर उसकी उपस्थिति के पॉडकास्ट नोट्स देखें
- होस्ट: लेक्स फ्रिडमैन (@lexfridman)
सिस्टम 1 और सिस्टम 2 सोच
- इसका वर्णन डैनियल की पुस्तक में अधिक किया गया है
-
सिस्टम 1 सोच तेज़ है, सीखे गए व्यवहार पर निर्भर करती है, और भावनात्मक (एक विचार जो बहुत जल्दी आता है)
- एक आसान उदाहरण: प्रश्न का उत्तर देते समय, "2+2 क्या है?" आप सिस्टम 1 सोच का उपयोग करेंगे
- सिस्टम 1 की सोच अधिकतर सहज है
- सिस्टम 1 सोच का उपयोग करते समय, आप बड़े पैमाने पर पहले से खोजे गए पैटर्न के मुकाबले एक नए अनुभव का मिलान कर रहे हैं
-
सिस्टम 2 की सोच धीमी, जानबूझकर और अधिक तार्किक है (एक विचार जिसके लिए गहन विचार की आवश्यकता है)
- उदाहरण के लिए, प्रश्न का उत्तर देते समय, "27×14 क्या है?" आप सिस्टम 2 सोच का उपयोग करेंगे
- सिस्टम 2 की सोच के साथ, इसमें कुछ गंभीर प्रयास शामिल हैं
सिस्टम 1 और 2 की सोच गहन शिक्षण पर लागू होती है
- “आज गहन शिक्षण में जो हो रहा है वह सिस्टम 2 उत्पाद की तुलना में सिस्टम 1 उत्पाद जैसा है। गहन शिक्षण पैटर्न से मेल खाता है और अनुमान लगाता है कि क्या होने वाला है, इसलिए यह अत्यधिक पूर्वानुमानित है। गहन शिक्षा में जो नहीं है—और कई लोग सोचते हैं कि यह महत्वपूर्ण है—तर्क करने की क्षमता है, इसलिए वहां कोई सिस्टम 2 नहीं है।” -डैनियल कन्नमन
-
केवल सिस्टम 1 की प्रगति से गहन शिक्षा कितनी दूर तक पहुँच सकती है?
- “यह बिल्कुल स्पष्ट है कि गहरा दिमाग लोगों ने जो सोचा था उससे कहीं आगे निकल गया है। मुझे लगता है कि एआई में विकास के बारे में जिस बात ने मुझे सबसे ज्यादा आश्चर्यचकित किया है, वह है गति - चीजें, कम से कम गहन शिक्षण के संदर्भ में, अनुमान से कहीं अधिक तेजी से आगे बढ़ी हैं। शतरंज को सुलझाने से लेकर गो को सुलझाने तक का परिवर्तन - यह आश्चर्यजनक है कि यह कितनी तेजी से हुआ। -डैनियल कन्नमन
- जैसा कि कहा गया है, हम शायद सीमा के करीब पहुंच रहे हैं, जिससे प्रगति धीमी होने लगेगी
- “यह बिल्कुल स्पष्ट है कि गहरा दिमाग लोगों ने जो सोचा था उससे कहीं आगे निकल गया है। मुझे लगता है कि एआई में विकास के बारे में जिस बात ने मुझे सबसे ज्यादा आश्चर्यचकित किया है, वह है गति - चीजें, कम से कम गहन शिक्षण के संदर्भ में, अनुमान से कहीं अधिक तेजी से आगे बढ़ी हैं। शतरंज को सुलझाने से लेकर गो को सुलझाने तक का परिवर्तन - यह आश्चर्यजनक है कि यह कितनी तेजी से हुआ। -डैनियल कन्नमन
स्वायत्त ड्राइविंग
-
स्वायत्त वाहनों के क्षेत्र में, ऐसी प्रणाली बनाना कितना मुश्किल है जो मनुष्यों को पर्याप्त रूप से यह अनुमान लगाने में सक्षम बना सके कि कोई पैदल यात्री सड़क पार करेगा या नहीं?
- “मैं इसके बारे में काफी आशावादी हूं। हम जिस बारे में बात कर रहे हैं वह प्रत्येक वाहन में मौजूद भारी मात्रा में जानकारी है जो एक विशाल प्रणाली में फीड होती है। कोई भी वाहन जो कुछ भी सीखता है वह पूरे सिस्टम की जानकारी का हिस्सा बन जाता है। जब कोई सिस्टम इस तरह से एकाधिक हो जाता है, तो आप बहुत कुछ कर सकते हैं। मनुष्य बहुत जटिल हैं, इसलिए सिस्टम गलतियाँ करेगा, लेकिन मनुष्य भी गलतियाँ करते हैं।” -डैनियल कन्नमन
- यह उन निर्णयों के समान है जो स्वायत्त वाहन सड़क पर गाड़ी चलाते समय लेते हैं
- “मैं इसके बारे में काफी आशावादी हूं। हम जिस बारे में बात कर रहे हैं वह प्रत्येक वाहन में मौजूद भारी मात्रा में जानकारी है जो एक विशाल प्रणाली में फीड होती है। कोई भी वाहन जो कुछ भी सीखता है वह पूरे सिस्टम की जानकारी का हिस्सा बन जाता है। जब कोई सिस्टम इस तरह से एकाधिक हो जाता है, तो आप बहुत कुछ कर सकते हैं। मनुष्य बहुत जटिल हैं, इसलिए सिस्टम गलतियाँ करेगा, लेकिन मनुष्य भी गलतियाँ करते हैं।” -डैनियल कन्नमन
क्या रोबोट और मनुष्य सफलतापूर्वक सहयोग कर सकते हैं?
-
उदाहरण के लिए, क्या सिस्टम 1 तंत्रिका नेटवर्क सिस्टम 2-प्रकार के कार्यों के लिए मनुष्यों को "उधार" ले सकता है?
- "किसी भी प्रणाली में जहां मनुष्य और मशीनें बातचीत करते हैं, मानव काफी कम समय में अनावश्यक हो जाएगा।" -डैनियल कन्नमन
तर्क समझाने पर
- "न्यायिक प्रणाली में, आपके पास ऐसी प्रणालियाँ हैं जो न्यायाधीशों की तुलना में पैरोल उल्लंघन की भविष्यवाणी करने में स्पष्ट रूप से बेहतर हैं, लेकिन वे अपने तर्क को स्पष्ट नहीं कर सकते हैं, इसलिए लोग उन पर भरोसा नहीं करना चाहते हैं।" -डैनियल कन्नमन
-
🎧 लेकिन फिर, मनुष्य भी अपने तर्क को स्पष्ट नहीं कर सकते, हालांकि उन्हें लगता है कि वे ऐसा कर सकते हैं
- “ज्यादातर मामलों में, आपके कारणों का इस बात से बहुत कम लेना-देना होता है कि आप जो मानते हैं उस पर आप क्यों विश्वास करते हैं। कारण एक कहानी है जो आपके दिमाग में तब आती है जब आपको खुद को समझाने की जरूरत होती है। -डैनियल कन्नमन
- तो, इसे एआई से जोड़ते हुए: एआई को वास्तव में खुद को समझाने की ज़रूरत नहीं है, उसे बस एक ठोस कहानी बताने में सक्षम होना चाहिए
- “ज्यादातर मामलों में, आपके कारणों का इस बात से बहुत कम लेना-देना होता है कि आप जो मानते हैं उस पर आप क्यों विश्वास करते हैं। कारण एक कहानी है जो आपके दिमाग में तब आती है जब आपको खुद को समझाने की जरूरत होती है। -डैनियल कन्नमन
स्वयं का अनुभव करना बनाम स्वयं को याद रखना
-
"स्वयं का अनुभव करना" वह "आप" है जो जीवन के बारे में बताता है, दिन-प्रतिदिन अनुभव करता है
- (स्वयं जो रहता है)
-
कभी-कभी, आप पिछले अनुभव के बारे में एक स्मृति/कहानी बनाते हैं - यह "स्वयं को याद रखना" है
- (स्वयं जो जीवन का मूल्यांकन करता है)
- सोचने लायक बात: हमारी यादों में समय ज़रा भी मायने नहीं रखता
- यहां बताया गया है कि उपरोक्त क्यों मायने रखता है: हमारे निर्णय और कार्य किसी अनुभव की हमारी यादों से संचालित होते हैं, न कि स्वयं अनुभव से
-
🎧 विचार करने योग्य एक प्रश्न: मान लीजिए कि आप छुट्टियों की योजना बना रहे हैं, लेकिन छुट्टियों के समापन पर आपको बताया गया कि आपको भूलने की दवा मिलेगी जो आपके अनुभव की यादें मिटा देगी। आपकी तस्वीरें भी नष्ट हो जाएंगी. क्या आप अब भी छुट्टियाँ लेंगे?
- शोध से संकेत मिलता है कि अधिकांश लोग ऐसा नहीं करेंगे
- "यह पता चला है, हम छुट्टियों पर जाते हैं, बड़े पैमाने पर, यादें बनाने के लिए, अनुभव लेने के लिए नहीं।" -डैनियल कन्नमन
- (लोग मुख्य रूप से उस कहानी को महत्व देते हैं जो वे किसी अनुभव के बारे में बताते हैं > स्वयं अनुभव)
- "यह पता चला है, हम छुट्टियों पर जाते हैं, बड़े पैमाने पर, यादें बनाने के लिए, अनुभव लेने के लिए नहीं।" -डैनियल कन्नमन
- शोध से संकेत मिलता है कि अधिकांश लोग ऐसा नहीं करेंगे
सुखी जीवन के लिए क्या आवश्यक है?
- "मैंने ख़ुशी पर शोध करना छोड़ दिया क्योंकि मैं उस समस्या का समाधान नहीं कर सका" - डेनियल कन्नमैन
-
“कोई ऐसे जीवन की कल्पना कर सकता है जिसमें लोग स्वयं का मूल्यांकन नहीं करते। ऐसा महसूस होता है जैसे वह बेहतर जीवन होगा।'' -डैनियल कन्नमन
- "स्कोरिंग" से डेनियल का तात्पर्य लगातार यह पूछने से है, "मैं कैसा हूँ?"
विक्टर फ्रैंकल द्वारा मैन्स सर्च फॉर मीनिंग
-
पुस्तक में, विक्टर का सिद्धांत है कि जीवन में सकारात्मक उद्देश्य की पहचान करने से व्यक्ति को दुख से बचाया जा सकता है - क्या डैनियल सहमत है?
- "ज़रूरी नहीं। मैं देख सकता हूं कि जिस किसी के पास उद्देश्य, अर्थ इत्यादि की भावना है, वह इसे कायम रख सकता है, लेकिन सामान्य तौर पर मुझमें वह भावना नहीं है। मुझे पूरा यकीन है कि अगर मैं किसी एकाग्रता शिविर में होता, तो मैं हार मान लेता और मर जाता। -डैनियल कन्नमन
- आगे: "मुझे यकीन नहीं है कि जीवित रहने के लिए उद्देश्य की भावना कितनी आवश्यक है, लेकिन मुझे पता है, जब मैं अपने बारे में सोचता हूं, तो मैं हार मान लेता हूं।"
- इसके अलावा: हमें इस बात का कोई अंदाजा नहीं है कि विक्टर जैसे लोग, जो एक एकाग्रता शिविर से बच गए थे, वास्तव में बच गए क्योंकि उन्हें उद्देश्य की भावना का पता चला (यह सिर्फ वह कहानी हो सकती है जो वे बता रहे हैं)
- "ज़रूरी नहीं। मैं देख सकता हूं कि जिस किसी के पास उद्देश्य, अर्थ इत्यादि की भावना है, वह इसे कायम रख सकता है, लेकिन सामान्य तौर पर मुझमें वह भावना नहीं है। मुझे पूरा यकीन है कि अगर मैं किसी एकाग्रता शिविर में होता, तो मैं हार मान लेता और मर जाता। -डैनियल कन्नमन
🎧अपना मन कैसे बदलें
-
“एक दिलचस्प बात यह है कि लोगों के लिए अपना मन बदलना कितना मुश्किल है। अनिवार्य रूप से, एक बार प्रतिबद्ध होने के बाद, लोग किसी भी महत्वपूर्ण चीज़ के बारे में अपना विचार नहीं बदलते हैं। यह आश्चर्य की बात है, लेकिन यह वैज्ञानिकों के साथ भी सच है... राजनीतिक या धार्मिक महत्व की चीजों पर, लोग अपना मन नहीं बदलते हैं, और आप इसके बारे में बहुत कम कर सकते हैं। -डैनियल कन्नमन
- जैसा कि कहा गया है, यदि किसी विशेष राजनीतिक या धार्मिक नेता ने किसी प्रासंगिक विषय (जैसे जलवायु परिवर्तन) पर अपना मन बदल दिया है, तो इसका महत्वपूर्ण प्रभाव पड़ेगा - क्यों?
- “हमारे पास जो राय है वह इसलिए नहीं है क्योंकि हम जानते हैं कि हमारे पास वे क्यों हैं, बल्कि इसलिए है क्योंकि हम कुछ लोगों पर भरोसा करते हैं दूसरों पर नहीं। यह कहानियों की तुलना में सबूतों के बारे में बहुत कम है।”
- जैसा कि कहा गया है, यदि किसी विशेष राजनीतिक या धार्मिक नेता ने किसी प्रासंगिक विषय (जैसे जलवायु परिवर्तन) पर अपना मन बदल दिया है, तो इसका महत्वपूर्ण प्रभाव पड़ेगा - क्यों?
जीवन का अर्थ क्या है?
-
"जितना मैं समझ सकता हूँ इसका कोई उत्तर नहीं है, और मैं सक्रिय रूप से किसी उत्तर की तलाश नहीं कर रहा हूँ" - डैनियल कन्नमैन
- क्या कोई उत्तर मौजूद है? - "नहीं"
अतिरिक्त टिप्पणी
- “मैं सामाजिक नेटवर्क के लिए बहुत बूढ़ा हो गया हूँ। मैंने कभी इंस्टाग्राम नहीं देखा... मुझे नहीं पता कि इंस्टाग्राम क्या करता है।' -डैनियल कन्नमन
- "मैंने एक चीज़ के बारे में लिखा है जिसे फ़ोकसिंग इल्यूजन कहा जाता है - यानी, जब आप किसी चीज़ के बारे में सोचते हैं, तो यह बहुत महत्वपूर्ण लगती है, वास्तव में यह जितनी महत्वपूर्ण है उससे कहीं अधिक महत्वपूर्ण है।" -डैनियल कन्नमन
-
डैनियल को लगता है कि हम अभी भी वास्तविक कृत्रिम सामान्य बुद्धि (एजीआई) देखने से काफी दूर हैं।
- "हम उस चीज़ से काफ़ी दूर हैं जो हर क्षेत्र में, बेहतर को छोड़कर, एक इंसान की तरह सोच सकती है" - डेनियल कन्नमैन