Mais de 80% do código que a Anthropic coloca em produção hoje não foi escrito por um engenheiro humano. Foi escrito pelo Claude, o modelo de IA da própria empresa. Antes do Claude Code, no início de 2025, esse número mal passava de poucos por cento. A empresa diz ainda entregar oito vezes mais código por trimestre do que entre 2021 e 2025: o que levava dois anos sai em três meses.
Pare um segundo nessa frase. A ferramenta começou a fabricar quem a fabrica.
O ensaio “When AI builds itself”, publicado pela Anthropic em junho de 2026, chama isso de autoaperfeiçoamento recursivo: sistemas que ajudam a projetar, treinar e melhorar seus sucessores. A empresa avisa que ainda não chegamos lá. A palavra que escolheu, porém, guarda ironia: “automático” vem do grego autómatos, aquilo que se move por si. A máquina automática sempre dispensou a mão que a empurra; agora começa a mover o próprio processo que a produz, sugerindo código, conduzindo experimentos e opinando sobre os rumos da pesquisa.
O humano recua da execução para a supervisão. Esse recuo tem cara técnica, mas é político: quem assume a execução transfere o poder para a definição dos objetivos, quais problemas resolver, quais riscos tolerar, quais valores embutir no código.
A própria Anthropic defende que o mundo deveria poder pausar o desenvolvimento de fronteira se os riscos correrem mais rápido do que a adaptação social, e reconhece a armadilha na frase seguinte: uma pausa unilateral só deixaria os menos cuidadosos ultrapassarem os mais responsáveis. Só que quem lidera a corrida costuma pedir regras justamente quando elas consolidam a liderança: a regulação que protege a sociedade pode, de quebra, blindar quem já tem capital, data centers e a agenda dos ministros.
O risco mais próximo não tem nada de cinematográfico. Esqueça a máquina rompendo as amarras numa tempestade; o que assusta é o controle ser capturado em silêncio, antes de percebermos que havia algo a controlar.
Boa parte do debate confunde governança com compliance. Compliance verifica se a empresa cumpriu o checklist; governança faz as perguntas que não cabem em checklist nenhum, quem decide, quem fiscaliza, quem tem direito de saber que uma decisão passou por uma máquina. No Brasil, o PL 2338/2023 tenta responder a parte disso e segue na Câmara, à espera do parecer do relator desde a aprovação no Senado, em 2024. Mas nenhuma lei sozinha resolve: a IA corre na velocidade do software, a lei na do processo legislativo. Uma lei estática para uma tecnologia que se reescreve nasce velha.
A palavra ética, enquanto isso, virou enfeite de parede corporativa. Ética de verdade custa caro: é dizer não a um uso lucrativo que faz mal e admitir incerteza em público em vez de empurrar o dano para a letra miúda do termo de uso. Quando a IA passa a escrever e revisar o próprio código, a supervisão deixa de ser detalhe. Um humano que aprova sem entender o que aprovou não supervisiona nada. Assina um álibi.
Democracia sintética
Chego ao nome que ando dando para a fronteira seguinte: democracia sintética. Uma camada nova da vida pública, mediada por IA, que sintetiza milhões de contribuições, mapeia consensos, preserva divergências e aproxima o cidadão de decisões que hoje lhe escapam. A Anthropic já experimentou redigir os princípios de um modelo com a participação de cidadãos comuns, depois de admitir que sua constituição fora escrita só por funcionários. Na melhor versão, isso amplia a capacidade coletiva de escutar e deliberar.
Na pior, vira encenação de escuta. O cidadão fala, a IA resume, o governo diz que ouviu, e ninguém verifica se as vozes foram fielmente representadas. A síntese apaga o dissenso, suaviza o conflito e transforma a minoria em nota de rodapé. Por isso a régua é simples de enunciar e difícil de cumprir: democracia sintética só é democracia se houver contestação. Sem que o cidadão veja como sua voz foi classificada e tenha garantia de que seus dados não viram mercadoria, sobra uma máquina que converte participação popular em legitimidade automatizada.
A IA pode ajudar a sociedade a decidir melhor, mas não pode decidir o que é justo no nosso lugar: a democracia é lenta de propósito, feita de conflito e responsabilidade, e a IA é veloz porque comprime informação. A democracia sintética deveria ser uma ponte, não um trono. Ponte aproxima quem está nas duas margens; trono só troca de ocupante. Se a IA já aprendeu a se construir, a tarefa que sobra para nós é menos glamourosa: erguer instituições capazes de olhar essa força nos olhos e dizer não quando for preciso. A máquina pensar sozinha é um problema sério. Pior seria o dia em que parássemos de pensar nela como decisão política e a deixássemos escrever esse capítulo também.
