Summary of Artificial Intelligence Podcast Podcast Episode: Daniel Kahneman on AI: Thinking Fast and Slow with Lex Fridman
Podcast: Artificial Intelligence Podcast
8 min. read
— Description —
Discover the fascinating insights of Daniel Kahneman on the power of our subconscious thinking and the influence of stories on our beliefs Explore the limitations of artificial general intelligence and the role of memory in shaping our decisions Gain a deeper understanding of why changing opinions can be so challenging.
Daniel Kahneman on AI: Thinking Fast and Slow with Lex Fridman
Table of contents
Conclusiones clave
Libros mencionados
Introducción
Pensamiento del sistema 1 y del sistema 2
Pensamiento de los sistemas 1 y 2 aplicado al aprendizaje profundo
Conducción autónoma
¿Pueden los robots y los humanos colaborar con éxito?
Sobre la explicación del razonamiento
El yo que experimenta versus el yo que recuerda
¿Qué contribuye a una vida feliz?
El hombre en busca de sentido, de Viktor Frankl.
🎧 Cómo cambiar de opinión
¿Cual es el significado de la vida?
Notas adicionales
Conclusiones clave
- El pensamiento del Sistema 1 es rápido, se basa en la conducta aprendida y es principalmente emocional; El pensamiento del sistema 2 es lento, deliberado y más lógico.
- “En la mayoría de los casos, tus razones tienen muy poco que ver con por qué crees lo que crees. Las razones son una historia que te viene a la mente cuando necesitas explicarte”. -Daniel Kahneman
- Todavía estamos muy lejos de una verdadera inteligencia artificial general (AGI)
- Nuestras decisiones y acciones se rigen por nuestros recuerdos de una experiencia, no por la experiencia en sí.
- Una vez que las personas se forman una opinión, son increíblemente reacias a cambiarla.
- “Tenemos las opiniones que tenemos no porque sepamos por qué las tenemos, sino porque confiamos en algunas personas y no en otras. Se trata mucho menos de evidencia que de historias”. -Daniel Kahneman
Libros mencionados
- Daniel y Lex discuten La búsqueda de sentido del hombre de Viktor Frankl, particularmente la tesis de Viktor de que identificar un propósito positivo en la vida puede salvarnos del sufrimiento.
Introducción
-
Daniel Kahneman es el autor de Pensar, rápido y despacio y recibió el Premio Nobel de Ciencias Económicas en 2002.
- Para obtener más información sobre Daniel, consulte las notas del podcast de su aparición en The Knowledge Project.
- Anfitrión: Lex Fridman (@lexfridman)
Pensamiento del sistema 1 y del sistema 2
- Esto se describe más en el libro de Daniel.
-
El pensamiento del Sistema 1 es rápido, se basa en el comportamiento aprendido y es emocional (una idea que surge muy rápidamente).
- Un ejemplo sencillo: al responder la pregunta "¿Cuánto es 2+2?" Usarías el sistema 1 pensando
- El pensamiento del Sistema 1 se realiza en su mayor parte sin esfuerzo
- Al utilizar el pensamiento del sistema 1, en gran medida estás comparando una nueva experiencia con un patrón previamente descubierto.
-
El pensamiento del Sistema 2 es lento, deliberado y más lógico (una idea que requiere una reflexión profunda)
- Por ejemplo, al responder la pregunta "¿Qué es 27×14?" Usarías el sistema 2 pensando
- Con el pensamiento del sistema 2, implica un gran esfuerzo.
Pensamiento de los sistemas 1 y 2 aplicado al aprendizaje profundo
- “Lo que está sucediendo hoy en el aprendizaje profundo se parece más al producto del sistema 1 que al producto del sistema 2. El aprendizaje profundo coincide con patrones y anticipa lo que sucederá, por lo que es altamente predictivo. Lo que no tiene el aprendizaje profundo (y mucha gente piensa que esto es fundamental) es la capacidad de razonar, por lo que no existe ningún sistema 2 allí”. -Daniel Kahneman
-
¿Hasta dónde puede llegar el aprendizaje profundo con solo los avances del sistema 1?
- “Está muy claro que la mente profunda ha ido mucho más allá de lo que la gente pensaba que era posible. Creo que lo que más me sorprendió de los avances en IA es la velocidad: las cosas, al menos en el contexto del aprendizaje profundo, avanzaron mucho más rápido de lo previsto. La transición de resolver ajedrez a resolver Go... es desconcertante lo rápido que fue”. -Daniel Kahneman
- Dicho esto, es posible que nos estemos acercando a los límites, lo que provocará que el progreso comience a ralentizarse.
- “Está muy claro que la mente profunda ha ido mucho más allá de lo que la gente pensaba que era posible. Creo que lo que más me sorprendió de los avances en IA es la velocidad: las cosas, al menos en el contexto del aprendizaje profundo, avanzaron mucho más rápido de lo previsto. La transición de resolver ajedrez a resolver Go... es desconcertante lo rápido que fue”. -Daniel Kahneman
Conducción autónoma
-
En el ámbito de los vehículos autónomos, ¿qué tan difícil es crear un sistema que pueda modelar a los seres humanos lo suficiente como para predecir si un peatón cruzará la calle o no?
- “Soy bastante optimista al respecto. De lo que estamos hablando es de una enorme cantidad de información que cada vehículo tiene y que alimenta un sistema gigantesco. Todo lo que aprende cualquier vehículo pasa a formar parte de lo que sabe todo el sistema. Cuando un sistema se multiplica así, hay muchas cosas que puedes hacer. Los seres humanos son muy complicados, por lo que el sistema cometerá errores, pero los humanos también cometemos errores”. -Daniel Kahneman
- Esto es similar a las decisiones que toman los vehículos autónomos cuando conducen por una carretera.
- “Soy bastante optimista al respecto. De lo que estamos hablando es de una enorme cantidad de información que cada vehículo tiene y que alimenta un sistema gigantesco. Todo lo que aprende cualquier vehículo pasa a formar parte de lo que sabe todo el sistema. Cuando un sistema se multiplica así, hay muchas cosas que puedes hacer. Los seres humanos son muy complicados, por lo que el sistema cometerá errores, pero los humanos también cometemos errores”. -Daniel Kahneman
¿Pueden los robots y los humanos colaborar con éxito?
-
Por ejemplo, ¿pueden las redes neuronales del sistema 1 “tomar prestados” humanos para tareas del tipo del sistema 2?
- "En cualquier sistema en el que interactúen humanos y máquinas, el humano sería superfluo en un tiempo bastante corto". -Daniel Kahneman
Sobre la explicación del razonamiento
- "En el sistema judicial, hay sistemas que son claramente mejores que los jueces para predecir violaciones de la libertad condicional, pero no pueden explicar su razonamiento, por lo que la gente no quiere confiar en ellos". -Daniel Kahneman
-
🎧 Pero claro, los humanos tampoco pueden explicar su razonamiento, aunque creen que sí pueden.
- “En la mayoría de los casos, tus razones tienen muy poco que ver con por qué crees lo que crees. Las razones son una historia que te viene a la mente cuando necesitas explicarte”. -Daniel Kahneman
- Entonces, extrapolando esto a la IA: la IA realmente no necesita explicarse, solo tiene que ser capaz de contar una historia convincente.
- “En la mayoría de los casos, tus razones tienen muy poco que ver con por qué crees lo que crees. Las razones son una historia que te viene a la mente cuando necesitas explicarte”. -Daniel Kahneman
El yo que experimenta versus el yo que recuerda
-
El “yo que experimenta” es el “tú” que vive la vida, experimentando el día a día.
- (El yo que vive)
-
Ocasionalmente, formas un recuerdo/historia sobre una experiencia pasada: este es el “yo que recuerda”
- (El yo que evalúa la vida)
- Un punto para reflexionar: en nuestros recuerdos, el tiempo no importa en lo más mínimo
- He aquí por qué lo anterior es importante: nuestras decisiones y acciones se rigen por nuestros recuerdos de una experiencia, no por la experiencia en sí.
-
🎧 Una pregunta para reflexionar: suponga que está planeando unas vacaciones, pero al finalizar las vacaciones le dicen que recibirá un medicamento amnésico que borrará sus recuerdos de la experiencia. Tus fotos también serían destruidas. ¿Todavía tomarías las vacaciones?
- La investigación indica que la mayoría de las personas no lo harían.
- “Resulta que nos vamos de vacaciones, en gran parte, para construir recuerdos, no para tener experiencias”. -Daniel Kahneman
- (La gente valora principalmente la historia que cuentan sobre una experiencia > la experiencia misma)
- “Resulta que nos vamos de vacaciones, en gran parte, para construir recuerdos, no para tener experiencias”. -Daniel Kahneman
- La investigación indica que la mayoría de las personas no lo harían.
¿Qué contribuye a una vida feliz?
- “Abandoné la investigación sobre la felicidad porque no podía resolver ese problema” – Daniel Kahneman
-
“Se podría imaginar una vida en la que la gente no se puntúe a sí misma. Parece que así sería una vida mejor”. -Daniel Kahneman
- Al decir “anotar”, Daniel se refiere a la pregunta constante de “¿Cómo estoy?”
El hombre en busca de sentido, de Viktor Frankl.
-
En el libro, Viktor teoriza que identificar un propósito positivo en la vida puede salvarnos del sufrimiento. ¿Está de acuerdo Daniel?
- "No precisamente. Puedo ver que alguien que tiene ese sentimiento de propósito, significado, etc. podría mantenerse gracias a ello, pero yo, en general, no tengo ese sentimiento. Estoy bastante seguro de que si estuviera en un campo de concentración, me rendiría y moriría”. -Daniel Kahneman
- Además: "No estoy seguro de cuán esencial es para la supervivencia un sentido de propósito, pero sí sé que, cuando pienso en mí mismo, me habría rendido".
- Además: no tenemos idea de si personas como Viktor, que sobrevivieron a un campo de concentración, realmente sobrevivieron porque descubrieron un sentido de propósito (podría ser simplemente la historia que están contando).
- "No precisamente. Puedo ver que alguien que tiene ese sentimiento de propósito, significado, etc. podría mantenerse gracias a ello, pero yo, en general, no tengo ese sentimiento. Estoy bastante seguro de que si estuviera en un campo de concentración, me rendiría y moriría”. -Daniel Kahneman
🎧 Cómo cambiar de opinión
-
“Una de las cosas interesantes es lo difícil que resulta para la gente cambiar de opinión. Esencialmente, una vez que están comprometidas, las personas simplemente no cambian de opinión sobre nada que importe. Eso es sorprendente, pero es cierto incluso con los científicos... En cosas importantes, políticas o religiosas, la gente simplemente no cambia de opinión, en general, y hay muy poco que se pueda hacer al respecto”. -Daniel Kahneman
- Dicho esto, si un líder político o religioso en particular cambiara de opinión sobre un tema relevante (como el cambio climático), eso tendría un efecto significativo: ¿por qué?
- “Tenemos las opiniones que tenemos no porque sepamos por qué las tenemos, sino porque confiamos en algunas personas y no en otras. Se trata mucho menos de evidencia que de historias”.
- Dicho esto, si un líder político o religioso en particular cambiara de opinión sobre un tema relevante (como el cambio climático), eso tendría un efecto significativo: ¿por qué?
¿Cual es el significado de la vida?
-
“No hay respuesta que no pueda entender y no estoy buscando ninguna activamente” – Daniel Kahneman
- ¿Existe una respuesta? - "No"
Notas adicionales
- “Soy demasiado mayor para las redes sociales. Nunca he visto Instagram… No tengo idea de lo que hace Instagram”. -Daniel Kahneman
- "Hay algo sobre lo que he escrito llamado ilusión de enfoque, es decir, cuando piensas en algo, parece muy importante, más importante de lo que realmente es". -Daniel Kahneman
-
Daniel cree que todavía estamos bastante lejos de ver una verdadera inteligencia artificial general (AGI)
- “Estamos bastante lejos de algo que pueda, en todos los ámbitos, pensar como un ser humano, excepto mejor” – Daniel Kahneman