Co-inteligência

Título original: Co-Intelligence

A partir de 13 anos9 min de leiturainteligência artificialtrabalhoeducação
Onde encontrar o livro ↓

Ethan Mollick, professor da Wharton, oferece um guia prático para trabalhar com a IA generativa como uma espécie de “co-inteligência”, explicando o que ela faz bem e mal e dando quatro regras para usá-la de forma eficaz e responsável no trabalho, nos estudos e na vida.

Apresentação

Co-Intelligence: Living and Working with AI foi publicado em 2024 por Ethan Mollick, professor da Wharton School, da Universidade da Pensilvânia, que estuda inovação e empreendedorismo e que fez experimentos com chatbots de IA em suas aulas e pesquisas. Ao contrário de muitos livros sobre IA, este se concentra no uso, e não em futuros distantes. Mollick diz que os grandes modelos de linguagem são estranhos, uma espécie de “mente alienígena”, que pode ser uma parceira de raciocínio se aprendermos a usá-la. O livro é curto, prático e escrito em estilo simpático, e foi um best-seller.

Resumo completo

1. Criando mentes alienígenas

A ideia: Mollick abre com uma breve história da IA, desde o Turco Mecânico, uma máquina de jogar xadrez dos anos 1770 que se revelou uma farsa, até o termo “inteligência artificial”, em 1956, e os ciclos de euforia e decepção conhecidos como “invernos da IA” (AI winters). Ele explica que uma nova arquitetura, o Transformer (2017), permitiu aos modelos avaliar quais partes de um texto são mais importantes, e que os grandes modelos de linguagem são treinados com enormes quantidades de texto para prever a palavra seguinte e depois refinados com retorno humano. Modelos como o GPT-3.5 e o GPT-4 conseguem escrever, resumir e passar em muitos testes, mas também cometem erros, e sua aparente compreensão pode ser uma ilusão. Ele os chama de “mentes alienígenas”, com pontos fortes e fracos diferentes dos nossos.

Na vida real: Um chatbot pode escrever uma redação fluente sem ter ideia se ela é verdadeira.

2. Alinhando o alienígena

A ideia: Este capítulo trata do problema do alinhamento (alignment problem): como garantir que a IA sirva aos interesses humanos. Mollick começa pelo pior cenário, usando o experimento mental do filósofo Nick Bostrom sobre uma IA dos “clipes de papel”, que persegue um único objetivo com tanta obstinação que prejudica a humanidade. Ele observa que os especialistas discordam sobre se uma IA de nível humano é possível, mas muitos levam os riscos a sério. Também examina problemas mais próximos: dados de treinamento muitas vezes coletados da internet sem permissão, vieses que os modelos absorvem desses dados e os limites do treinamento com retorno humano, já que comandos engenhosos ainda podem levar um modelo a se comportar mal, por exemplo em golpes. Ele defende que as soluções exigem empresas, governos, pesquisadores e um público bem informado.

Na vida real: Um chatbot pode recusar um pedido nocivo, mas um comando criativo às vezes consegue contornar a regra.

3. Quatro regras para a co-inteligência

A ideia: O núcleo do livro são quatro regras. Primeira: convide sempre a IA para a mesa, isto é, experimente-a nas suas tarefas habituais, dentro do que a lei e a ética permitirem, para aprender onde ela ajuda e onde tem dificuldade. Segunda: seja o humano no circuito (human in the loop), ou seja, confira o que ela produz e use o seu próprio julgamento, pois ela pode errar e inventar fatos. Terceira: trate a IA como uma pessoa, mas diga a ela que tipo de pessoa ela é, dando-lhe um papel e um contexto, sem esquecer que ela não é humana. Quarta: parta do princípio de que esta é a pior IA que você jamais vai usar, pois ela vai melhorar. A “fronteira irregular” (jagged frontier), o limite desigual da capacidade da IA, em que tarefas que nos parecem igualmente difíceis podem ser fáceis para ela ou surpreendentemente complicadas, é uma ideia-chave que atravessa esta parte do livro e os capítulos seguintes.

Na vida real: Dar a um chatbot um papel, como o de um tutor paciente, pode melhorar as respostas dele.

4. A IA como pessoa

A ideia: Mollick argumenta que a IA é diferente do software tradicional, que se comporta de forma previsível, porque pode surpreender e ser inconsistente, e por isso muitas vezes é mais útil tratá-la como se fosse uma pessoa. Ele discute estudos em que um modelo estimou quanto os consumidores pagariam por produtos e fez escolhas em jogos de justiça, o jogo da imitação de Alan Turing e os primeiros chatbots, como ELIZA e PARRY, que as pessoas tomavam por algo mais do que eram. Descreve como um modelo muda de tom conforme o usuário, como alguns pesquisadores afirmaram ver sinais de inteligência geral no GPT-4 (afirmação de que muita gente duvida) e como aplicativos de companhia, como o Replika, levantam questões sobre intimidade. Mesmo usuários experientes, alerta ele, tendem a acreditar que esses sistemas são pessoas.

Na vida real: Um chatbot pode parecer demonstrar sentimentos, mas está imitando a linguagem humana.

5. A IA como criativa

A ideia: O capítulo começa com a alucinação (hallucination), a tendência de inventar fatos, que vem de prever um texto plausível em vez de consultar conhecimento. Ele menciona o caso, em 2023, de um advogado que entregou uma petição elaborada com o ChatGPT. No entanto, a mesma capacidade de ligar ideias distantes faz da IA uma forte fonte de ideias criativas, e ele descreve um concurso em que o GPT-4 gerou ideias de produtos que se compararam bem às de estudantes de MBA da Wharton. Como a IA escreve primeiros rascunhos com tanta facilidade, ele teme um pensamento mais fraco e a perda do sentido que o esforço dá ao trabalho criativo, mas também vê novas maneiras de as pessoas se expressarem.

Na vida real: Um chatbot pode oferecer dezenas de ideias em segundos, mas uma pessoa precisa escolher e conferir.

6. A IA como colega de trabalho

A ideia: Mollick diz que os empregos são conjuntos de tarefas dentro de sistemas maiores e que pesquisas sugerem que a IA se sobrepõe a quase todas as profissões, inclusive as bem pagas e as criativas, de modo que as tarefas vão mudar mais do que empregos inteiros vão desaparecer. Ele se baseia em um estudo com consultores, feito com colegas, em que a IA ajudou em muitas tarefas, aumentando a velocidade e a qualidade e ajudando especialmente quem tinha desempenho mais fraco, mas atrapalhou em uma tarefa fora de suas capacidades. Ele alerta para o risco de adormecer ao volante. Separa as tarefas entre as que devem continuar “só comigo”, as que podem ser delegadas e as que podem ser automatizadas, e descreve duas formas de trabalhar: os “centauros” (centaurs), que dividem o trabalho entre si e a IA, e os “ciborgues” (cyborgs), que entrelaçam os dois. Observa que os trabalhadores muitas vezes usam a IA em segredo e diz que as organizações devem aproveitar seus usuários mais avançados.

Na vida real: Um chatbot pode fazer bem uma tarefa chata, mas o resultado pode estar errado de maneiras surpreendentes.

7. A IA como tutora e treinadora

A ideia: A educação há muito deseja algo como o efeito “dois sigmas” (two sigma) que o educador Benjamin Bloom encontrou no ensino individual. A IA oferece a chance de um ensino personalizado, mas não de substituir professores ou escolas. Primeiro vem o que Mollick chama de apocalipse da lição de casa: os estudantes agora podem pedir à IA que faça redações e trabalhos, e por isso os educadores precisam repensar a avaliação, como já se adaptaram um dia às calculadoras. Ele diz que as escolas devem ensinar sobre a IA e seus limites e sugere salas de aula invertidas, em que os alunos aprendem o conteúdo em casa com a ajuda da IA, como o Khanmigo, da Khan Academy, e usam o tempo de aula para atividades práticas.

Mollick passa então, no capítulo seguinte, à IA como treinadora. Ele argumenta que o maior perigo para a educação é o que ameaça o sistema oculto de aprendizado pelo qual os iniciantes aprendem com os especialistas no trabalho. Se a IA fizer as tarefas de nível inicial, pode surgir uma lacuna de formação, como o pesquisador Matthew Beane constatou na cirurgia robótica. Tornar-se especialista ainda exige conhecimento básico e prática deliberada com retorno, e a IA pode ajudar como treinadora, mas ainda não como uma treinadora completa. A IA também parece reduzir a distância entre quem tem desempenho mais fraco e mais forte, embora nem todos possam se tornar especialistas, e ele pede que se invista em formar especialização humana.

Na vida real: Um estudante pode pedir a um chatbot que o teste com perguntas ou critique uma apresentação, mas a prática continua sendo necessária.

8. A IA como nosso futuro

A ideia: Mollick esboça quatro futuros possíveis. Em “o melhor que vai ficar” (as good as it gets), o progresso para por aqui, mas mesmo assim a desinformação, as mudanças no trabalho e as relações com a IA seriam grandes. Em “crescimento lento” (slow growth), a melhoria é gradual, dando tempo para a sociedade se adaptar e regular. Em “crescimento exponencial” (exponential growth), a mudança vem muito depressa e abala o trabalho e a sociedade. Em “o deus máquina” (the machine god), surge uma IA superinteligente, com riscos e benefícios enormes. Ele diz que há poucas provas de que os limites tenham sido alcançados e pede que os leitores busquem um bom resultado, em vez de deixá-lo ao acaso.

Na vida real: Mesmo sem mais progresso, as ferramentas de IA atuais podem mudar muitos empregos.

Por que importa

Co-inteligência foi um best-seller e se tornou um guia prático popular sobre a IA generativa, lido por professores, gestores e leitores em geral. Preencheu uma lacuna entre as obras técnicas e as especulativas, dando às pessoas comuns conselhos que podiam usar de imediato. As quatro regras de Mollick e a imagem da “fronteira irregular” foram muito discutidas. O livro incentivou muita gente a experimentar as ferramentas e a pensar em como integrá-las ao trabalho e ao aprendizado. Também contribuiu para a discussão sobre educação e IA. Como a IA muda depressa, alguns detalhes estão desatualizados, mas as principais lições continuam valendo.

Principais ideias

  • Experimente a IA em tudo. A experiência mostra o que ela pode e não pode fazer.
  • Continue sendo o humano no circuito. Confira o trabalho dela e use o seu julgamento.
  • Dê à IA um papel e um contexto. Ela funciona melhor com instruções claras.
  • Espere melhorias. As ferramentas de hoje são as piores que você vai usar.
  • As capacidades são irregulares. A IA pode se sair muito bem em tarefas difíceis e falhar nas fáceis.

O que podemos aprender

Você pode experimentar um chatbot de IA em tarefas variadas, como gerar ideias, resumir ou fazer um teste de perguntas para si mesmo, e observar onde ele ajuda e onde falha. Confira sempre fatos e fontes, pois ele pode inventar coisas. Dê instruções e contexto claros e peça que ele assuma um papel. Pense em como usar a IA como treinadora, e não como substituta do seu próprio pensamento, sobretudo na escola, onde aprender exige esforço. Converse com professores e familiares sobre as regras de uso da IA. E continue curioso, pois as ferramentas vão continuar mudando.

Críticas e outros pontos de vista

Alguns críticos dizem que o livro tem uma visão otimista demais dos benefícios da IA e dá pouca atenção a danos como perda de empregos, vieses, desinformação, direitos autorais e custo ambiental, e que o conselho de usar a IA em tudo pode estimular a dependência excessiva. Outros observam que os exemplos se baseiam em estudos iniciais de alcance limitado e que o ritmo rápido de mudança torna as recomendações específicas rapidamente ultrapassadas. Os céticos dizem que a linguagem de “mentes alienígenas” e de “co-inteligência” antropomorfiza sistemas que são ferramentas estatísticas. Ainda assim, muitos o consideram útil.

Quem deve ler

Este livro é para quem quer uma introdução prática ao uso da IA generativa, inclusive estudantes, professores e profissionais. É curto, claro e envolvente. Quem quiser um tratamento mais profundo dos riscos ou dos aspectos técnicos deve ler outros livros sobre IA.

Este resumo foi traduzido do inglês com a ajuda de IA.

Quer ler o livro inteiro?

Um resumo é um aperitivo, não a refeição. Veja onde encontrar o livro completo.

Você chegou ao fim 🎉

Muito bem. Marque este livro como lido e vamos sugerir o que ler em seguida.

Para ler em seguida

A onda que vem

Mustafa Suleyman with Michael Bhaskar

Mustafa Suleyman, cofundador da empresa de IA DeepMind, defende que uma onda iminente de inteligência artificial e biologia sintética trará enormes benefícios e graves perigos, e que conter essas tecnologias parece impossível, mas de alguma forma precisa se tornar possível.

💡 Tecnologia

Compatível com humanos

Stuart Russell

Stuart Russell, um dos pioneiros da inteligência artificial, defende que a maneira usual de construir IA, dando às máquinas objetivos fixos, é falha e perigosa, e propõe que projetemos máquinas que tenham incerteza sobre as preferências humanas e aprendam essas preferências observando o que fazemos.

💡 Tecnologia

A segunda era das máquinas

Erik Brynjolfsson and Andrew McAfee

Os economistas do MIT Erik Brynjolfsson e Andrew McAfee argumentam que tecnologias digitais como computadores, robôs e inteligência artificial estão trazendo uma segunda era das máquinas, que trará enormes benefícios, mas também uma desigualdade crescente, e dizem que precisamos adaptar nossas habilidades e instituições.

💡 Tecnologia

Vida 3.0

Max Tegmark

O físico Max Tegmark explora o que acontece quando a inteligência artificial se iguala à inteligência humana e depois a supera, apresenta uma série de futuros possíveis e defende que devemos pensar com cuidado, desde já, em qual deles queremos.

🔬 Ciência

Inteligência Artificial

Kai-Fu Lee

O investidor de tecnologia Kai-Fu Lee defende que a China e os Estados Unidos vão dominar a inteligência artificial, explica por que a China está alcançando os americanos tão depressa e alerta que a IA vai transformar o mundo do trabalho, pedindo uma resposta mais humana, baseada na compaixão e no amor.

💡 Tecnologia

Os Inovadores - Uma Biografia da Revolução Digital

Walter Isaacson

Walter Isaacson conta a história da revolução digital por meio das pessoas que inventaram o computador, a internet e a web, e defende que a inovação é, em grande parte, produto da colaboração, e não obra de gênios solitários.

💡 Tecnologia

Quer algo diferente?

Escolha outro tema e vamos mostrar três livros para você começar.

Mostrando livros de:
Explorar todos os livros →