Foto de capa: Minimalist Architectural Scene, Daniel Norin.
Livro · paper9 · abril de 2026
Antes que escolham por nós
Reflexão e ação para a era da inteligência artificial.
Marcelo Kanhan · Primeira edição
Quando os maiores especialistas de um campo expressam preocupação séria, é prudente prestar atenção. A postura adequada diante da incerteza não é nem o pânico nem a complacência, mas a atenção informada.
Sinopse
Em 2023, Geoffrey Hinton — o "padrinho da inteligência artificial" — deixou o Google para poder falar abertamente dos riscos que via no horizonte. Desde então, os maiores cientistas da área, técnicos e desenvolvedores falam sobre chances reais de que a tecnologia fuja ao nosso controle, e alguns estimam como real a chance de que a IA leve à extinção da humanidade nas próximas três décadas. Não são opiniões de gente de fora do sistema: elas vêm de quem dedicou a vida a construir a tecnologia que seguramente define nosso tempo, e que agora nos preocupa.
Nos últimos meses, vivenciamos quase diariamente casos inéditos: sistemas que escapam ao controle, impactos sociais, grandes discussões econômicas e geopolíticas em torno da IA. Este livro nasceu para oferecer ao leitor informado, não necessariamente técnico, um panorama equilibrado do debate. Equilibrado não quer dizer neutro: a posição é que os riscos são reais e merecem atenção. Mas dá voz às divergências e aos céticos — porque o desacordo entre pessoas de igual estatura intelectual não é sinal de confusão, e sim de incerteza genuína sobre algo que a humanidade nunca enfrentou.
Quatro partes, dez capítulos — dos fundamentos ao mapa de riscos, do debate mais controverso ao que pode ser feito.
Capítulo a capítulo
O caminho do livro.
I · Fundamentos
O que queremos dizer com "inteligência"?
A palavra muda de sentido conforme o argumento avança — desempenho numa tarefa, um número numa escala, ou a busca fria de meios para um fim. Confundir as três acepções é o que sustenta, e ao mesmo tempo fragiliza, todo o debate.
O problema do alinhamento
A IA faz exatamente o que pedimos — o que pode ser algo completamente diferente daquilo que intencionamos e desejamos. Quando a métrica vira o objetivo, o atalho criativo corrói o resultado, e a falha está na especificação, não na máquina.
II · O mapa de riscos
Perigo presente
Os danos que a IA já causa hoje: viés, vigilância, desinformação, algoritmos que maximizam engajamento e corroem o debate público. O risco não é só do futuro.
A corrida para o fundo
Uma dinâmica atraente, e por isso muito perigosa. Quando a vantagem competitiva e geopolítica pressiona todos a acelerar, a segurança vira um custo que ninguém quer pagar.
Quando o sistema escapa
Riscos de perda de controle: metas instrumentais — autopreservação, aquisição de recursos — que emergem da lógica, não da consciência. Uma IA não precisa querer ou "ser consciente" para resistir a ser desligada.
III · O debate
A hipótese da superinteligência
O argumento do autoaperfeiçoamento recursivo — uma máquina que projeta máquinas melhores que ela. Onde ele é forte, e onde depende de saltos conceituais.
Os céticos respondem
De LeCun e Ng a Gebru: por que parte dos maiores nomes considera o risco existencial exagerado — e os muros físicos (ciência, integração, computação, infraestrutura) que a inteligência sozinha não derruba.
IV · O que fazer
A frente técnica
Construir máquinas compreensíveis: o esforço de abrir a caixa-preta e entender o que o sistema faz antes de confiar nele.
Governança e regulação
Auditoria independente (não basta "testado internamente"), avaliação de impacto e cooperação internacional — o que já existe e o que ainda falta.
O papel do cidadão informado
Quem paga a conta — viés, vigilância, desemprego — sem colher o lucro é quem tem o incentivo certo para exigir prudência. Aprender, participar, cobrar, praticar: o debate não se terceiriza.
O autor
Marcelo Kanhan
É o mesmo método que aplico com clientes, virado para o maior debate do momento: tornar sistemas complexos legíveis para que a decisão volte a ser sua. Veja o perfil.