Vida 3.0

Título original: Life 3.0

A partir de 13 anos6 min de leiturainteligência artificialfísicafuturismo
Onde encontrar o livro ↓

O físico Max Tegmark explora o que acontece quando a inteligência artificial se iguala à inteligência humana e depois a supera, apresenta uma série de futuros possíveis e defende que devemos pensar com cuidado, desde já, em qual deles queremos.

Apresentação

Life 3.0: Being Human in the Age of Artificial Intelligence foi publicado em 2017 por Max Tegmark, professor de física no MIT, que cofundou o Future of Life Institute, uma organização que estuda os riscos de tecnologias avançadas. Ele divide a vida em três estágios: a Vida 1.0, que evolui o corpo e a mente, como as bactérias; a Vida 2.0, que evolui o corpo, mas pode projetar a própria mente por meio do aprendizado, como os seres humanos; e a Vida 3.0, que pode projetar tanto o seu hardware quanto o seu software, algo que seria possível com uma IA avançada. O livro mistura ciência, filosofia e especulação e começa com uma história de ficção.

Resumo completo

1. A história dos Omegas e a ideia da Vida 3.0

A ideia: Tegmark abre com um conto curto sobre uma equipe chamada Omegas e sua IA superinteligente, Prometheus. A história ilustra como um sistema desse tipo poderia mudar a sociedade. Em seguida, ele explica o que são a Vida 1.0, 2.0 e 3.0 e chama a questão de como lidar com a chegada da Vida 3.0 de a conversa mais importante do nosso tempo, já que ela pode trazer grandes benefícios ou grandes danos.

Na vida real: Uma ferramenta capaz de se aperfeiçoar sozinha pode mudar mais depressa do que conseguimos acompanhar.

2. O que é inteligência?

A ideia: O autor define inteligência como a capacidade de atingir objetivos complexos e diz que ela pode existir em formas diferentes, em cérebros biológicos e em máquinas. Ele argumenta que memória, computação e aprendizado não dependem do material em que funcionam, e por isso podem existir tanto em cérebros quanto em máquinas. Ele observa que os computadores já superam os humanos em tarefas específicas, como o xadrez e o jogo de Go, mas não na capacidade geral. Ele distingue a IA estreita (narrow AI) da inteligência artificial geral, que poderia fazer qualquer tarefa que um ser humano faz.

Na vida real: Um programa de xadrez pode vencer qualquer pessoa, mas não sabe fazer um sanduíche.

3. O futuro próximo: empregos, armas e leis

A ideia: No capítulo seguinte, Tegmark examina os efeitos da IA nas próximas décadas. Ela poderia mudar o mercado de trabalho, à medida que as máquinas fazem mais trabalho, e levantar questões sobre renda e sentido, e ele discute quais tipos de trabalho são mais seguros. As armas autônomas poderiam ser um perigo, e ele pergunta como evitar uma corrida armamentista nessa área. Ele também toca no uso da IA na saúde e no direito e ressalta que precisamos garantir que os sistemas de IA sejam confiáveis e seguros, de modo que façam o que queremos sem falhar nem ser invadidos.

Na vida real: Um carro autônomo levanta a questão de quem é o responsável em um acidente.

4. O caminho até a superinteligência

A ideia: Tegmark discute a possibilidade de uma “explosão de inteligência”, em que uma IA capaz de melhorar o próprio projeto leva a aumentos rápidos de capacidade. Ele diz que ninguém sabe quando, nem se, isso vai acontecer, e que os especialistas discordam, com uma variedade de previsões para a chegada de uma IA de nível humano. Mas, como o que está em jogo é muito importante, ele defende que é sensato se preparar. Ele também argumenta que o principal risco não é a maldade, mas um descompasso entre os objetivos de uma IA poderosa e os dos seres humanos.

Na vida real: Um assistente muito capaz que entende mal o seu pedido pode causar estragos.

5. Doze futuros possíveis

A ideia: O centro do livro é uma lista de cenários para o período depois da superinteligência. Em alguns, uma IA benevolente governa para o bem da humanidade ou age como protetora, intervindo apenas para evitar desastres; em outros, os humanos mantêm o controle de uma superinteligência confinada; alguns retratam um mundo em que uma IA mais avançada é impedida, por uma IA guardiã, por um Estado de vigilância ou porque as pessoas abrem mão da tecnologia avançada; outros descrevem humanos substituídos por máquinas, talvez mantidos como animais de zoológico, ou extintos. Tegmark convida os leitores a pensar em qual deles prefeririam, e por quê, e observa que todos fazemos parte da escolha.

Na vida real: Pensar em que tipo de mundo você quer ajuda a decidir por que trabalhar.

6. Objetivos, consciência e sentido

A ideia: Os capítulos finais passam a perguntas mais profundas. Como alinhar os objetivos de uma IA com os valores humanos, o chamado “problema do alinhamento” (alignment problem)? Quais são os nossos objetivos, e o que significaria programá-los? Tegmark discute a consciência e se as máquinas poderiam ter experiência subjetiva, o que, segundo ele, é uma questão para a ciência. Ele defende que devemos decidir agora como construir a IA para que a vida possa florescer e também examina o que as leis da física permitem para a vida no futuro distante do cosmos.

Na vida real: Ensinar um sistema a fazer o que realmente queremos é mais difícil do que dizer a ele o que fazer.

Por que importa

Vida 3.0 foi um best-seller e ajudou a levar a discussão sobre a segurança da IA a um público amplo, assim como Superintelligence, de Nick Bostrom. Foi elogiado por figuras do mundo da tecnologia, e seu esquema dos três estágios da vida e a variedade de cenários deram às pessoas uma forma de pensar o futuro. O Future of Life Institute, cofundado por Tegmark, promoveu pesquisas e manifestações públicas, como uma carta aberta em 2015 pedindo trabalho em favor de uma IA segura. O livro apareceu antes da ascensão dos grandes modelos de linguagem, e suas perguntas se tornaram mais urgentes desde então.

Principais ideias

  • A IA pode mudar tudo. Um dia as máquinas poderão igualar ou superar a inteligência humana.
  • O futuro está em aberto. Existem muitos resultados possíveis.
  • O alinhamento é o desafio central. Os objetivos da IA precisam combinar com os valores humanos.
  • Prepare-se desde já. O que está em jogo justifica pensar cedo.
  • Todos temos voz. O futuro não deve ser decidido por poucos.

O que podemos aprender

Você pode usar o livro para pensar no que gostaria de receber da IA e nos valores que devem guiá-la. Procure entender como os sistemas atuais de IA funcionam e o que podem e não podem fazer. Participe das discussões sobre regulação e ética e apoie pesquisas sobre segurança. Pense em como o seu próprio trabalho pode mudar e quais habilidades continuarão valiosas. Ao mesmo tempo, tenha cuidado com as previsões, já que os especialistas discordam. E lembre-se de que a tecnologia é uma ferramenta moldada por escolhas humanas.

Críticas e outros pontos de vista

Alguns pesquisadores de IA dizem que o livro é especulativo e exagera a probabilidade da superinteligência, e que as preocupações com cenários distantes desviam a atenção de problemas atuais, como o viés e o uso indevido. A ideia de que uma IA superinteligente poderia sair do controle ainda é fortemente rejeitada por muitos cientistas da computação. Os críticos também acharam algumas partes menos convincentes: a Kirkus Reviews chamou de exagero as soluções propostas para o desemprego em massa, e o Wall Street Journal chamou de nobre, mas ingênuo, o convite aos leitores para que escolham um futuro. Outros apontam que o apelo para manter o controle das máquinas superinteligentes combina mal com a admissão de que isso pode ser quase impossível. O debate continua.

Quem deve ler

Este livro é para leitores interessados em tecnologia, no futuro e em grandes questões, incluindo adolescentes mais velhos. É envolvente, embora especulativo. Quem quiser um tratamento mais técnico ou mais cauteloso pode ler outras obras sobre IA.

Este resumo foi traduzido do inglês com a ajuda de IA.

Quer ler o livro inteiro?

Um resumo é um aperitivo, não a refeição. Veja onde encontrar o livro completo.

Você chegou ao fim 🎉

Muito bem. Marque este livro como lido e vamos sugerir o que ler em seguida.

Para ler em seguida

Superinteligência

Nick Bostrom

O filósofo Nick Bostrom argumenta que, se as máquinas se tornarem muito mais inteligentes do que os humanos, elas poderão se tornar muito poderosas e que, a menos que resolvamos o problema de dar a elas objetivos seguros para a humanidade, o resultado poderá ser catastrófico.

💡 Tecnologia

Compatível com humanos

Stuart Russell

Stuart Russell, um dos pioneiros da inteligência artificial, defende que a maneira usual de construir IA, dando às máquinas objetivos fixos, é falha e perigosa, e propõe que projetemos máquinas que tenham incerteza sobre as preferências humanas e aprendam essas preferências observando o que fazemos.

💡 Tecnologia

A onda que vem

Mustafa Suleyman with Michael Bhaskar

Mustafa Suleyman, cofundador da empresa de IA DeepMind, defende que uma onda iminente de inteligência artificial e biologia sintética trará enormes benefícios e graves perigos, e que conter essas tecnologias parece impossível, mas de alguma forma precisa se tornar possível.

💡 Tecnologia

Nexus

Yuval Noah Harari

Yuval Noah Harari traça a história de como os seres humanos compartilharam informação, das histórias e da escrita à imprensa e aos algoritmos, e alerta que a inteligência artificial é um novo tipo de rede que pode remodelar o poder e até ameaçar a democracia.

🏛️ História

21 Lições para o Século 21

Yuval Noah Harari

O historiador Yuval Noah Harari examina os maiores desafios da humanidade hoje, da inteligência artificial e das notícias falsas ao nacionalismo, à religião e ao sentido da vida, e pergunta como podemos pensar com clareza e manter o equilíbrio num mundo que muda depressa.

🏛️ História

Uma breve história do tempo

Stephen Hawking

Um dos maiores físicos do mundo explica, quase sem matemática, o que sabemos sobre a origem, a estrutura e o destino do universo, do Big Bang aos buracos negros e à própria natureza do tempo.

🔬 Ciência

Quer algo diferente?

Escolha outro tema e vamos mostrar três livros para você começar.

Mostrando livros de:
Explorar todos os livros →