La ola que viene

Título original: The Coming Wave

Desde 13 años9 min de lecturainteligencia artificialbiotecnología
Notas de contenido análisis de riesgos catastróficos como pandemias artificiales; ciberataques y terrorismo
Conseguir el libro ↓

Mustafa Suleyman, cofundador de la empresa de IA DeepMind, sostiene que una ola de inteligencia artificial y biología sintética traerá enormes beneficios y graves peligros, y que contener estas tecnologías parece imposible pero debe lograrse de algún modo.

Presentación

The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma fue publicado en 2023 por Mustafa Suleyman, que cofundó DeepMind en 2010 (más tarde adquirida por Google) y después la empresa Inflection AI, con la colaboración del escritor Michael Bhaskar. Suleyman dice que ha dedicado buena parte de su carrera a construir IA, y sostiene que dos tecnologías, la IA avanzada y la biología sintética, son el núcleo de una «ola que viene» (coming wave) que transformará la sociedad, con la robótica, la computación cuántica y otras tecnologías creciendo a su alrededor. El libro describe esta ola, el «problema de la contención» (containment problem) que plantea y un conjunto de diez pasos que, según espera, podrían hacer posible la contención. Es una mezcla de memorias, historia y argumentación.

Resumen completo

1. Una ola, un dilema y un punto ciego

La idea: Suleyman abre diciendo que dos cosas sustentan el mundo humano, la inteligencia y la vida, y que una nueva ola de tecnología nos está dando el poder de diseñar ambas. Dice que la ola creará riqueza a una escala nunca vista, pero que su rápida difusión también da poder a actores malintencionados y amenaza con inestabilidad e incluso catástrofe. Cuenta cómo cofundó DeepMind en 2010 con Demis Hassabis y Shane Legg, con el propósito de reproducir la inteligencia humana, y cómo sus preocupaciones crecieron a medida que la tecnología avanzaba. Da el nombre de dilema al problema central: tanto construir estas tecnologías como negarse a construirlas corre el riesgo de conducir a una catástrofe o a una distopía de vigilancia. Describe también la «aversión al pesimismo» (pessimism aversion), el hábito emocional, sobre todo entre los poderosos, de desviar la mirada de las pruebas inquietantes. Recuerda que expuso advertencias ante una sala de líderes tecnológicos que las ignoraron encogiéndose de hombros, y un seminario sobre la síntesis barata de ADN en el que el público se negó a aceptar el riesgo. El breve prólogo, revela el texto, fue escrito por una IA.

En la vida cotidiana: Aplazar una prueba médica preocupante porque el resultado podría dar miedo es una forma conocida de evitación.

2. La proliferación y el problema de la contención

La idea: La Parte I sostiene que la tecnología llega en olas, cada una construida en torno a una tecnología de propósito general, como la máquina de vapor, la electricidad, el motor de combustión o la informática. Una vez que una tecnología funciona, se abarata y se extiende. Lo muestra con el automóvil: después del Modelo T de Henry Ford y de la cadena de montaje, la proporción de estadounidenses con coche pasó de alrededor del 10 por ciento en 1915 al 59 por ciento en 1930. Pasa luego al problema de la contención, es decir, la capacidad de vigilar, frenar, controlar e incluso detener una tecnología. Los inventores pierden pronto el control de aquello en lo que se convierten sus inventos: el fonógrafo de Edison, los explosivos de Nobel y la imprenta de Gutenberg tomaron rumbos que sus creadores no esperaban. Las sociedades han intentado a menudo decir que no, y el Imperio otomano retrasó mucho tiempo la imprenta, pero la resistencia acabó por agotarse. Las armas nucleares son la excepción parcial, contenidas por el coste, los tratados, el miedo y la suerte, y aun así la historia incluye accidentes y casi desastres.

En la vida cotidiana: Cuando los teléfonos se abarataron, casi todo el mundo pudo tener uno.

3. La nueva ola: inteligencia, vida y más

La idea: La Parte II describe la ola en sí. En la IA, relata el aprendizaje de un juego de Atari por el programa DQN en 2012, la partida de AlphaGo contra Lee Sedol en 2016, el aprendizaje profundo y el auge de los grandes modelos de lenguaje como ChatGPT. Propone la idea de la «inteligencia artificial capaz» (artificial capable intelligence), el punto en que la IA puede lograr objetivos complejos con una supervisión humana mínima, y sostiene que este hito cercano importa más que los debates sobre la superinteligencia. En biología, describe cómo ahora podemos leer, editar y escribir ADN, mediante la secuenciación del genoma, la edición genética con CRISPR y la síntesis de ADN, y cómo AlphaFold, de DeepMind, mostró que la IA y la biología se alimentan mutuamente. Alrededor de ambas se sitúan la robótica, la computación cuántica, la nanotecnología y las nuevas fuentes de energía. Entre los beneficios que espera figuran nuevos medicamentos, energía más limpia y ayuda experta al alcance de casi cualquiera.

En la vida cotidiana: Una herramienta que ayuda a los científicos a diseñar moléculas nuevas puede acelerar la medicina y también aumentar los riesgos.

4. Cuatro rasgos que la hacen diferente

La idea: Suleyman dice que cuatro rasgos hacen que esta ola sea más difícil de contener que las anteriores. La asimetría (asymmetry) significa que los actores pequeños pueden tener efectos enormes; señala a una pequeña unidad ucraniana de drones que ayudó a detener una columna rusa cerca de Kiev en 2022. La hiperevolución (hyper-evolution) significa que la innovación se acelera y que el mundo físico empieza a moverse a velocidad digital. El uso omnipropósito (omni-use) significa que una tecnología puede servir para muchos fines; una IA creada para encontrar medicamentos fue capaz, cuando se le pidió que buscara venenos, de sugerir decenas de miles de moléculas tóxicas en pocas horas. La autonomía (autonomy) significa que los sistemas actúan y encuentran estrategias cada vez más sin aprobación humana, y que su funcionamiento interno suele ser difícil de explicar. Menciona el problema del gorila de Stuart Russell, la preocupación de que una entidad más inteligente acabe conteniéndonos a nosotros.

En la vida cotidiana: Una herramienta que cualquiera puede usar para el bien puede ser mal utilizada por unos pocos.

5. Incentivos imparables

La idea: ¿Por qué no detenerse sin más? Suleyman enumera las fuerzas que empujan la ola: la rivalidad entre naciones (dice que en China la victoria de AlphaGo se vio como un momento Sputnik para la IA), una cultura de investigación que premia la apertura y la publicación, enormes recompensas económicas, necesidades mundiales urgentes como la alimentación y el clima, y el ego humano. Estas fuerzas se refuerzan entre sí, de modo que frenar va en contra de los intereses de los Estados, las empresas y los investigadores por igual.

En la vida cotidiana: Cuando todos los equipos de una carrera temen quedarse atrás, nadie quiere ser el primero en frenar.

6. Estados bajo presión

La idea: La Parte III examina el Estado nación, al que ve como el principal actor capaz de contener la tecnología y que ya se enfrenta a una confianza en descenso y a una desigualdad creciente. La ola amplificará sus debilidades. El ataque WannaCry de 2017, construido con una herramienta robada a una agencia de inteligencia estadounidense, es su ejemplo de asimetría no contenida. Advierte de armas y ciberataques más baratos, de las falsificaciones profundas (deepfakes) y la desinformación, de fugas accidentales de laboratorio y de grandes pérdidas de empleo. El poder podría tanto centralizarse, reforzando el control autoritario y creando grandes empresas nuevas, como descentralizarse, dando a los grupos la capacidad de vivir al margen de las estructuras tradicionales.

En la vida cotidiana: Un pueblo con un cuerpo de bomberos debilitado afronta un peligro mayor cuando aparecen nuevos riesgos.

7. Catástrofe o distopía

La idea: El capítulo 12 expone el dilema con claridad. Si la ola no se contiene, actores malintencionados podrían usarla para provocar desastres como una pandemia diseñada, y usa los atentados de la secta Aum Shinrikyo en la década de 1990 para mostrar que un grupo decidido puede causar daño incluso con medios limitados. Pero la respuesta que parece más segura, la vigilancia y el control totales, conduce a la distopía. Detener la tecnología tampoco es una salida, porque el estancamiento traería su propio colapso. Dice que la humanidad debe caminar por un sendero estrecho entre esos polos.

En la vida cotidiana: Demasiada libertad puede permitir que actúen quienes hacen daño, y demasiado control puede acabar con la libertad.

8. Diez pasos hacia la contención

La idea: La Parte IV sostiene que la regulación por sí sola no basta y que la contención no es posible en el mundo actual. Ofrece diez pasos, dispuestos en círculos concéntricos, para cambiar esas condiciones: la investigación en seguridad técnica, con un programa al estilo Apolo; las auditorías; los cuellos de botella que frenan el desarrollo, como los controles a la exportación de chips avanzados; los creadores, incluidos los críticos, que deberían construir; las empresas que equilibran beneficio y propósito; los gobiernos que desarrollan su propia experiencia y regulan; las alianzas y los tratados; una cultura que aprende abiertamente del fracaso, como hace la aviación; los movimientos populares; y, en décimo lugar, el sendero estrecho en sí, es decir, la coherencia entre todas las medidas. Ningún paso es suficiente por sí solo, y él califica la contención de esfuerzo interminable. Dice que el momento de empezar es ahora.

En la vida cotidiana: Varias capas de protección son más fuertes que una sola.

Por qué importa

La ola que viene se publicó en 2023, poco después de que ChatGPT y GPT-4 convirtieran la IA generativa en un tema público, y procedía de alguien que ayudó a construir el campo. Sus advertencias sobre el mal uso, y su insistencia en que la regulación es necesaria pero no suficiente, se incorporaron al debate sobre cómo gobernar la IA y la biotecnología. El concepto del «problema de la contención» dio nombre al desafío de controlar tecnologías poderosas. El libro roza el debate sobre la superinteligencia, citando a Stuart Russell, pero sostiene que las capacidades más cercanas y las cuestiones políticas y sociales merecen más atención. También planteó si la contención es siquiera posible y qué papel deberían desempeñar las empresas y los gobiernos.

Ideas clave

  • La tecnología se extiende. La historia muestra que las tecnologías útiles proliferan y son difíciles de frenar.
  • Se acerca una nueva ola. La IA y la biología sintética, con la robótica y otros campos a su alrededor, pueden transformar la vida.
  • Los beneficios son grandes. La medicina, la energía y la ayuda experta podrían mejorar.
  • Cuatro rasgos aumentan el riesgo. La asimetría, la hiperevolución, el uso omnipropósito y la autonomía hacen que esta ola sea más difícil de contener.
  • La aversión al pesimismo es una trampa. Desviar la mirada de las pruebas alarmantes impide actuar.
  • La contención requiere muchas medidas. Diez pasos, desde la seguridad técnica hasta los tratados y la presión popular, deben funcionar juntos.

Qué podemos aprender

Puedes usar el libro para pensar en cómo deben desarrollarse y gobernarse las tecnologías poderosas y en el papel que pueden desempeñar los ciudadanos de a pie. Infórmate sobre la IA y la biotecnología y sigue los debates sobre la regulación. Apoya la transparencia y la seguridad en las empresas. Considera dedicarte a la seguridad y a las políticas públicas, si te interesa. Desconfía tanto de la exageración como del miedo, y busca información equilibrada. Y recuerda que el futuro de la tecnología depende de las decisiones de mucha gente y que la presión pública puede ayudar a darles forma.

Críticas y otras perspectivas

El propio autor espera que algunos lectores encuentren el libro exagerado, y admite que tiene un sesgo por ser alguien de dentro del mundo de la IA. Los escépticos pueden decir que su imagen de una proliferación y una catástrofe casi inevitables es alarmista y que da muy poco peso a la capacidad de las sociedades para regular las tecnologías, como en parte hicieron con las armas nucleares, que el propio libro califica de excepción parcial. Otros pueden argumentar que, viniendo de un fundador de empresas de IA, el llamamiento a regular podría favorecer a las compañías establecidas, y el propio libro señala que los críticos de la ley de IA de la UE dicen que las grandes tecnológicas ayudaron a redactarla y la debilitaron. Los escenarios de biología sintética son, según el propio autor, extrapolaciones a partir de tendencias, y los expertos pueden discrepar sobre lo fácil que sería crear un patógeno peligroso. Los diez pasos son amplios, y Suleyman los llama una base de trabajo necesaria, no un mapa completo ni respuestas definitivas. Muchos lectores destacados citados al principio del libro lo elogian como una sobria llamada de atención.

Quién debería leerlo

Este libro es para lectores generales que quieran entender el debate sobre la IA y la biotecnología y su gobernanza, incluidos los adolescentes mayores. Es claro y está escrito para no especialistas. Quienes busquen detalles técnicos o una visión más escéptica deberían leer otras obras sobre el tema.

Resumen traducido del inglés con la ayuda de la IA.

¿Quieres leer el libro completo?

Un resumen es un aperitivo, no la comida entera. Aquí puedes encontrar el libro completo.

Has llegado al final 🎉

Bien hecho. Marca este libro como leído y te sugeriremos qué leer a continuación.

Para leer a continuación

Superinteligencia: caminos, peligros, estrategias

Nick Bostrom

El filósofo Nick Bostrom sostiene que, si las máquinas llegan a ser mucho más inteligentes que los humanos, podrían volverse muy poderosas, y que, a menos que resolvamos el problema de darles objetivos seguros para la humanidad, el resultado podría ser catastrófico.

💡 Tecnología

Compatibilidad humana

Stuart Russell

Stuart Russell, pionero de la inteligencia artificial, sostiene que la manera habitual de construir IA, dándoles objetivos fijos a las máquinas, es errónea y peligrosa, y propone diseñar máquinas que no estén seguras de cuáles son las preferencias humanas y que las aprendan observándonos.

💡 Tecnología

Vida 3.0

Max Tegmark

El físico Max Tegmark explora qué ocurre cuando la inteligencia artificial iguala y luego supera a la humana, expone una gama de futuros posibles y sostiene que deberíamos pensar con cuidado, desde ahora, en cuál queremos.

🔬 Ciencia

Nexus

Yuval Noah Harari

Yuval Noah Harari repasa la historia de cómo los seres humanos han compartido información, desde los relatos y la escritura hasta la imprenta y los algoritmos, y advierte de que la inteligencia artificial es un nuevo tipo de red que podría remodelar el poder e incluso amenazar la democracia.

🏛️ Historia

Co-inteligencia

Ethan Mollick

Ethan Mollick, profesor de Wharton, ofrece una guía práctica para trabajar con la inteligencia artificial generativa como una especie de «cointeligencia» (co-intelligence): explica qué hace bien y qué hace mal, y propone cuatro reglas para usarla de forma eficaz y responsable en el trabajo, el estudio y la vida.

💡 Tecnología

Los Innovadores: Los genios que inventaron el futuro

Walter Isaacson

Walter Isaacson cuenta la historia de la revolución digital a través de las personas que inventaron el ordenador, internet y la web, y sostiene que la innovación es sobre todo fruto de la colaboración y no obra de genios solitarios.

💡 Tecnología

¿Quieres algo distinto?

Elige otro tema y te mostraremos tres libros para empezar.

Mostrando libros de:
Explorar todos los libros →