Vida 3.0

Título original: Life 3.0

Desde 13 años6 min de lecturainteligencia artificialfísicafuturismo
Conseguir el libro ↓

El físico Max Tegmark explora qué ocurre cuando la inteligencia artificial iguala y luego supera a la humana, expone una gama de futuros posibles y sostiene que deberíamos pensar con cuidado, desde ahora, en cuál queremos.

Presentación

Life 3.0: Being Human in the Age of Artificial Intelligence se publicó en 2017. Su autor, Max Tegmark, es profesor de física en el MIT y cofundó el Future of Life Institute, una organización que estudia los riesgos de las tecnologías avanzadas. Divide la vida en tres etapas: la Vida 1.0, que evoluciona tanto su cuerpo como su mente, como las bacterias; la Vida 2.0, que evoluciona su cuerpo pero puede diseñar su mente mediante el aprendizaje, como los humanos; y la Vida 3.0, que puede diseñar tanto su hardware como su software, algo que sería posible con una IA avanzada. El libro mezcla ciencia, filosofía y especulación, y empieza con un relato de ficción.

Resumen completo

1. El relato de los Omega y la idea de la Vida 3.0

La idea: Tegmark abre con un breve texto de ficción sobre un equipo llamado los Omega y su IA superinteligente, Prometheus. El relato ilustra cómo un sistema así podría cambiar la sociedad. Después explica la Vida 1.0, 2.0 y 3.0, y llama a la cuestión de cómo afrontar la llegada de la Vida 3.0 la conversación más importante de nuestro tiempo, ya que podría traer grandes beneficios o grandes daños.

En la vida cotidiana: Una herramienta capaz de mejorarse a sí misma podría cambiar más rápido de lo que podemos seguirla.

2. ¿Qué es la inteligencia?

La idea: El autor define la inteligencia como la capacidad de lograr objetivos complejos, y dice que puede existir en formas distintas, en cerebros biológicos y en máquinas. Sostiene que la memoria, el cálculo y el aprendizaje no dependen del material en el que se ejecutan, de modo que pueden existir tanto en cerebros como en máquinas. Señala que los ordenadores ya superan a los humanos en tareas concretas, como el ajedrez y el juego del Go, pero no en capacidad general. Distingue la IA estrecha (narrow AI) de la inteligencia artificial general, que podría hacer cualquier tarea que pueda hacer un ser humano.

En la vida cotidiana: Un programa de ajedrez puede vencer a cualquier persona, pero no puede preparar un bocadillo.

3. El futuro cercano: empleos, armas y leyes

La idea: En el capítulo siguiente, Tegmark examina los efectos de la IA en las próximas décadas. Podría cambiar el mercado laboral, a medida que las máquinas hacen más trabajo, y plantear preguntas sobre los ingresos y el sentido de la vida, y comenta qué tipos de trabajo son más seguros. Las armas autónomas podrían ser un peligro, y se pregunta cómo evitar una carrera armamentista en ese campo. También toca el tema de la IA en la atención sanitaria y en el derecho, y subraya que debemos asegurarnos de que los sistemas de IA sean fiables y seguros, de modo que hagan lo que queremos sin fallar ni ser pirateados.

En la vida cotidiana: Un coche autónomo plantea la pregunta de quién es responsable en un accidente.

4. El camino hacia la superinteligencia

La idea: Tegmark analiza la posibilidad de una «explosión de inteligencia» (intelligence explosion), en la que una IA capaz de mejorar su propio diseño provoca aumentos rápidos de capacidad. Dice que nadie sabe cuándo, ni si ocurrirá, y que los expertos discrepan, con una variedad de predicciones sobre la llegada de una IA de nivel humano. Pero, como lo que está en juego es muy importante, sostiene que es sensato prepararse. También argumenta que el riesgo principal no es la malicia, sino un desajuste entre los objetivos de una IA poderosa y los de los humanos.

En la vida cotidiana: Un asistente muy capaz que malinterpreta tu deseo puede causar daños.

5. Doce futuros posibles

La idea: El núcleo del libro es una lista de escenarios para el período posterior a la superinteligencia. En algunos, una IA benevolente gobierna para el bien de la humanidad o actúa como protectora que solo interviene para evitar desastres; en otros, los humanos conservan el control de una superinteligencia confinada; algunos describen un mundo en el que se impide una IA más avanzada, mediante una IA guardiana, un Estado de vigilancia o porque la gente renuncia a la tecnología avanzada; otros describen a los humanos reemplazados por máquinas, quizá mantenidos como animales de zoológico, o extinguiéndose. Tegmark invita a los lectores a pensar cuál preferirían y por qué, y señala que todos formamos parte de la elección.

En la vida cotidiana: Pensar qué tipo de mundo quieres te ayuda a decidir por qué trabajar.

6. Objetivos, conciencia y sentido

La idea: Los últimos capítulos abordan preguntas más profundas. ¿Cómo podemos alinear los objetivos de una IA con los valores humanos, lo que se conoce como el «problema de la alineación» (alignment problem)? ¿Cuáles son nuestros objetivos y qué significaría programarlos? Tegmark habla de la conciencia y de si las máquinas podrían tener experiencia subjetiva, una cuestión que, según él, corresponde a la ciencia. Sostiene que deberíamos decidir ahora cómo construir la IA para que la vida pueda florecer, y también examina lo que permiten las leyes de la física para la vida en el futuro lejano del cosmos.

En la vida cotidiana: Enseñar a un sistema a hacer lo que de verdad queremos es más difícil que decirle qué hacer.

Por qué importa

Vida 3.0 fue un superventas y ayudó a llevar a un público amplio el debate sobre la seguridad de la IA, al igual que Superintelligence, de Nick Bostrom. Fue elogiado por figuras del mundo de la tecnología, y su marco de las tres etapas de la vida y la gama de escenarios dieron a la gente una manera de pensar en el futuro. El Future of Life Institute, cofundado por Tegmark, promovió investigaciones y declaraciones públicas, como una carta abierta de 2015 que pedía trabajar en una IA segura. El libro apareció antes del auge de los grandes modelos de lenguaje, y sus preguntas se han vuelto más urgentes desde entonces.

Ideas clave

  • La IA podría cambiarlo todo. Algún día las máquinas podrían igualar o superar la inteligencia humana.
  • El futuro está abierto. Hay muchos resultados posibles.
  • La alineación es el desafío clave. Los objetivos de la IA deben coincidir con los valores humanos.
  • Prepárate desde ahora. Lo que está en juego justifica pensar pronto.
  • Todos tenemos voz. El futuro no debería decidirlo unos pocos.

Qué podemos aprender

Puedes usar el libro para pensar qué querrías de la IA y qué valores deberían guiarla. Aprende cómo funcionan los sistemas de IA actuales y qué pueden y qué no pueden hacer. Participa en los debates sobre regulación y ética y apoya la investigación sobre seguridad. Piensa en cómo podría cambiar tu propio trabajo y qué habilidades seguirán siendo valiosas. Al mismo tiempo, ten cuidado con las predicciones, ya que los expertos discrepan. Y recuerda que la tecnología es una herramienta moldeada por decisiones humanas.

Críticas y otras perspectivas

Algunos investigadores de IA dicen que el libro es especulativo y exagera la probabilidad de la superinteligencia, y que preocuparse por escenarios lejanos distrae de los problemas actuales, como el sesgo y el uso indebido. La idea de que una IA superinteligente pudiera descontrolarse sigue siendo rechazada con firmeza por muchos informáticos. Los críticos también encontraron algunas partes menos convincentes: Kirkus Reviews calificó de exageradas las soluciones propuestas para el desempleo masivo, y el Wall Street Journal calificó de noble pero ingenua la invitación a los lectores a elegir un futuro. Otros señalan que el llamado a conservar el control de las máquinas superinteligentes encaja mal con el reconocimiento de que eso puede ser casi imposible. El debate continúa.

Quién debería leerlo

Este libro es para lectores interesados en la tecnología, el futuro y las grandes preguntas, incluidos los adolescentes mayores. Es atractivo, aunque especulativo. Quienes quieran un tratamiento más técnico o más cauteloso pueden leer otras obras sobre la IA.

Resumen traducido del inglés con la ayuda de la IA.

¿Quieres leer el libro completo?

Un resumen es un aperitivo, no la comida entera. Aquí puedes encontrar el libro completo.

Has llegado al final 🎉

Bien hecho. Marca este libro como leído y te sugeriremos qué leer a continuación.

Para leer a continuación

Superinteligencia: caminos, peligros, estrategias

Nick Bostrom

El filósofo Nick Bostrom sostiene que, si las máquinas llegan a ser mucho más inteligentes que los humanos, podrían volverse muy poderosas, y que, a menos que resolvamos el problema de darles objetivos seguros para la humanidad, el resultado podría ser catastrófico.

💡 Tecnología

Compatibilidad humana

Stuart Russell

Stuart Russell, pionero de la inteligencia artificial, sostiene que la manera habitual de construir IA, dándoles objetivos fijos a las máquinas, es errónea y peligrosa, y propone diseñar máquinas que no estén seguras de cuáles son las preferencias humanas y que las aprendan observándonos.

💡 Tecnología

La ola que viene

Mustafa Suleyman with Michael Bhaskar

Mustafa Suleyman, cofundador de la empresa de IA DeepMind, sostiene que una ola de inteligencia artificial y biología sintética traerá enormes beneficios y graves peligros, y que contener estas tecnologías parece imposible pero debe lograrse de algún modo.

💡 Tecnología

Nexus

Yuval Noah Harari

Yuval Noah Harari repasa la historia de cómo los seres humanos han compartido información, desde los relatos y la escritura hasta la imprenta y los algoritmos, y advierte de que la inteligencia artificial es un nuevo tipo de red que podría remodelar el poder e incluso amenazar la democracia.

🏛️ Historia

21 lecciones para el siglo XXI

Yuval Noah Harari

El historiador Yuval Noah Harari examina los mayores desafíos de la humanidad hoy, desde la inteligencia artificial y las noticias falsas hasta el nacionalismo, la religión y el sentido de la vida, y se pregunta cómo podemos pensar con claridad y mantener el equilibrio en un mundo que cambia deprisa.

🏛️ Historia

Historia del tiempo

Stephen Hawking

Uno de los físicos más grandes del mundo explica, casi sin matemáticas, lo que sabemos sobre el origen, la estructura y el destino del universo, desde el Big Bang hasta los agujeros negros y la naturaleza misma del tiempo.

🔬 Ciencia

¿Quieres algo distinto?

Elige otro tema y te mostraremos tres libros para empezar.

Mostrando libros de:
Explorar todos los libros →