# Antes que escolham por nós
Reflexão e ação para a era da inteligência artificial. — Marcelo Kanhan, paper9 (abril de 2026)

Em 2023, Geoffrey Hinton — o "padrinho da inteligência artificial" — deixou o Google para poder falar abertamente dos riscos que via no horizonte. Desde então, os maiores cientistas da área, técnicos e desenvolvedores falam sobre chances reais de que a tecnologia fuja ao nosso controle, e alguns estimam como real a chance de que a IA leve à extinção da humanidade nas próximas três décadas. Não são opiniões de gente de fora do sistema: elas vêm de quem dedicou a vida a construir a tecnologia que seguramente define nosso tempo, e que agora nos preocupa.

Nos últimos meses, vivenciamos quase diariamente casos inéditos: sistemas que escapam ao controle, impactos sociais, grandes discussões econômicas e geopolíticas em torno da IA. Este livro nasceu para oferecer ao leitor informado, não necessariamente técnico, um panorama equilibrado do debate. Equilibrado não quer dizer neutro: a posição é que os riscos são reais e merecem atenção. Mas dá voz às divergências e aos céticos — porque o desacordo entre pessoas de igual estatura intelectual não é sinal de confusão, e sim de incerteza genuína sobre algo que a humanidade nunca enfrentou.

Quatro partes, dez capítulos — dos fundamentos ao mapa de riscos, do debate mais controverso ao que pode ser feito.

## Capítulo a capítulo

### I · Fundamentos
- **1. O que queremos dizer com "inteligência"?** — A palavra muda de sentido conforme o argumento avança — desempenho numa tarefa, um número numa escala, ou a busca fria de meios para um fim. Confundir as três acepções é o que sustenta, e ao mesmo tempo fragiliza, todo o debate.
- **2. O problema do alinhamento** — A IA faz exatamente o que pedimos — o que pode ser algo completamente diferente daquilo que intencionamos e desejamos. Quando a métrica vira o objetivo, o atalho criativo corrói o resultado, e a falha está na especificação, não na máquina.

### II · O mapa de riscos
- **3. Perigo presente** — Os danos que a IA já causa hoje: viés, vigilância, desinformação, algoritmos que maximizam engajamento e corroem o debate público. O risco não é só do futuro.
- **4. A corrida para o fundo** — Uma dinâmica atraente, e por isso muito perigosa. Quando a vantagem competitiva e geopolítica pressiona todos a acelerar, a segurança vira um custo que ninguém quer pagar.
- **5. Quando o sistema escapa** — Riscos de perda de controle: metas instrumentais — autopreservação, aquisição de recursos — que emergem da lógica, não da consciência. Uma IA não precisa querer ou "ser consciente" para resistir a ser desligada.

### III · O debate
- **6. A hipótese da superinteligência** — O argumento do autoaperfeiçoamento recursivo — uma máquina que projeta máquinas melhores que ela. Onde ele é forte, e onde depende de saltos conceituais.
- **7. Os céticos respondem** — De LeCun e Ng a Gebru: por que parte dos maiores nomes considera o risco existencial exagerado — e os muros físicos (ciência, integração, computação, infraestrutura) que a inteligência sozinha não derruba.

### IV · O que fazer
- **8. A frente técnica** — Construir máquinas compreensíveis: o esforço de abrir a caixa-preta e entender o que o sistema faz antes de confiar nele.
- **9. Governança e regulação** — Auditoria independente (não basta "testado internamente"), avaliação de impacto e cooperação internacional — o que já existe e o que ainda falta.
- **10. O papel do cidadão informado** — Quem paga a conta — viés, vigilância, desemprego — sem colher o lucro é quem tem o incentivo certo para exigir prudência. Aprender, participar, cobrar, praticar: o debate não se terceiriza.

## Onde encontrar
- Amazon (impresso ou Kindle): https://www.amazon.com.br/dp/B0D7HF6H8B
- PDF grátis (estudantes e pesquisadores): kanhan.com.br/assets/downloads/Antes_que_escolham_por_nos.pdf

---
kanhan.com.br/livro/