Pesquisador alerta que o mundo pode não ter tempo para se preparar para os riscos da IA.

À frente de um laboratório envidraçado nos arredores de Londres, o futuro faz um barulho surpreendentemente banal. As máquinas de venda automática zumbem. Os cartões de acesso apitam. Um pesquisador de moletom carrega um notebook debaixo de um braço e um sanduíche comprado no supermercado na outra mão. Lá dentro, porém, outro tipo de ruído está crescendo: linhas de código rodando em fileiras de processadores gráficos, modelos sendo treinados com linguagem humana, imagens, estratégias e padrões. O tipo de sistema que talvez, em breve, consiga superar intelectualmente os próprios criadores.

Ninguém no corredor entra em pânico. As pessoas fazem piada na fila do café, reclamam da impressora, comparam os planos para o fim de semana. Ainda assim, como observa em voz baixa um dos principais pesquisadores de segurança em IA, o mundo “talvez não tenha tempo” para se preparar para o que vem aí.

O aspecto mais inquietante é que pouquíssimas pessoas fora desses prédios sequer sabem quais perguntas deveriam fazer.

“Estamos avançando mais rápido do que nosso manual de segurança consegue acompanhar”

Numa tarde cinzenta de terça-feira, o alerta cai com peso numa sala de reuniões apertada. Um pesquisador de destaque em segurança de IA - daquele tipo cujo trabalho influencia notas técnicas e encontros a portas fechadas em Washington e Bruxelas - ergue os olhos de um slide cheio de curvas. O gráfico mostra as capacidades da IA disparando para cima. A linha de regulação e das ferramentas de segurança fica muito atrás.

“Talvez não tenhamos tempo para nos preparar para toda a gama de riscos”, diz ele, deixando o silêncio se alongar. O slide não grita. Ele só revela uma distância que, ano após ano, se transforma em abismo.

Para entender o que isso quer dizer, não é preciso recorrer à ficção científica. Basta um exemplo simples. Em 2019, os grandes modelos de linguagem ainda eram demonstrações de nicho. Em 2022, já escreviam mensagens eletrônicas, redações escolares e código básico. Em 2024, sistemas de fronteira já conseguiam desenhar moléculas, depurar programas complexos, redigir textos com aparência jurídica e imitar um estilo de escrita depois de poucos parágrafos.

Cada salto pegou o público de surpresa. As escolas correram para se adaptar. As empresas se apressaram para reescrever políticas internas. Os governos publicaram documentos de discussão enquanto as equipes de produto lançavam novos recursos mês após mês. A sensação foi menos a de seguir um plano e mais a de assistir a uma sequência de saltos sobre uma fenda cada vez maior.

A ideia central do pesquisador é brutalmente direta: os sistemas de segurança crescem em linha reta, a cultura e a lei avançam devagar, mas as capacidades da IA sobem em picos. Desalinhamento não diz respeito apenas a uma “superinteligência rebelde”; ele também envolve milhares de falhas pequenas, chatas e desorganizadas em larga escala. Uma ferramenta hospitalar discretamente enviesada contra um grupo minoritário. Um modelo ajudando um agente isolado a refinar uma ideia de bioengenharia. Um sistema autônomo de negociação otimizando lucro de formas que ninguém percebe até o estrago aparecer.

Quando você conecta esses riscos a um mundo já pressionado por tensões geopolíticas, estresse climático e extremismo on-line, a pergunta sobre o prazo deixa de ser abstrata e passa a parecer uma contagem regressiva.

Por que a sensação de “não há tempo” parece mais próxima do que pensamos

Existe um tipo específico de desconforto que surge quando você conversa, sem registro oficial, com quem constrói esses sistemas. As pessoas têm orgulho do que estão criando - e medo do que pode escapar pelas frestas. Um engenheiro descreve lançar um novo modelo como “soltar um animal selvagem com uma coleira de rastreamento e torcer para que a cerca aguente”.

Num quadro branco, alguém rabiscou: “O que acontece quando isso passa a agir, e não apenas falar?” Ninguém apagou a frase. Ela permanece ali, meio piada, meio sinal de alarme.

Já tivemos pequenas prévias do que acontece quando o mundo não está pronto. Algoritmos de recomendação empurraram a política para extremos novos mais rápido do que as leis ou os hábitos da mídia conseguiram acompanhar. Ferramentas de vídeos sintéticos avançaram mais depressa do que a capacidade dos tribunais de responder a imagens não consensuais. Mercados de criptoativos incharam e depois despencaram enquanto os reguladores tentavam entender o que estavam observando.

Não é que a IA vá repetir essas histórias exatamente. É que o mesmo padrão insiste em se repetir: conveniência e novidade primeiro, barreiras de proteção depois. E, às vezes, o “depois” nunca chega de verdade.

O pesquisador de destaque que alerta que talvez não haja tempo não está imaginando um único momento de “apocalipse da IA”. Ele está pensando em ondas de risco sobrepostas: golpes de engano por correio eletrônico em escala industrial, descoberta automatizada de vulnerabilidades em software, ferramentas de projeto biológico com IA, assistentes conversacionais persuasivos capazes de mirar os medos das pessoas com precisão perturbadora.

Se sistemas muito capazes chegarem antes do esperado - digamos, em cinco a dez anos, e não em trinta - nosso conjunto atual de comitês de ética, compromissos voluntários e órgãos reguladores com equipes reduzidas parecerá um amontoado de sacos de areia diante de uma maré subindo. O verdadeiro medo não é apenas o que a IA pode fazer. É o que os humanos farão com a IA quando as regras forem fracas e os incentivos forem intensos.

A isso se soma outro ponto que raramente aparece nos discursos públicos: a maior parte dos danos não virá de uma decisão dramática e única, e sim de usos cotidianos, acumulativos e aparentemente inofensivos. Um sistema mal auditado na contratação de pessoal. Um assistente automatizado que convence uma pequena equipe a aceitar um atalho arriscado. Um modelo incorporado a um serviço público sem testes independentes suficientes. Em geral, os grandes problemas começam como pequenas conveniências.

O que, na prática, significa se preparar

Preparação, quando sai da boca de políticos, costuma soar como uma frase vaga. Dentro dos laboratórios e das equipes de segurança, ela é bem mais concreta. Há especialistas em testes de intrusão que tentam quebrar os modelos de propósito, provocando-os a revelar capacidades perigosas. Há pesquisadores de alinhamento construindo formas de fazer a IA seguir valores humanos, e não só instruções humanas. Há equipes de avaliação executando testes de estresse para descobrir o que um sistema fará em situações-limite.

Em uma tela grande, eles passam cenário após cenário: gerar código para software malicioso, responder perguntas sobre protocolos de laboratório, aconselhar sobre como escapar da supervisão. Eles não estão tentando provocar pânico. Estão tentando mapear a borda do penhasco antes de andarmos até ele.

Fora desses laboratórios, preparar-se pode ser algo tão simples quanto mudar a forma de tomar decisões sobre IA. As empresas podem definir limites rígidos para onde a IA nunca será usada - por exemplo, em diagnósticos médicos finais ou em decisões jurídicas de alto risco - sem supervisão humana robusta. As escolas podem parar de fingir que a IA não existe e, em vez disso, ensinar como colaborar com ela, questioná-la e perceber quando ela está inventando coisas.

Também é preciso trazer o tema para a esfera pública com mais transparência. Compras governamentais, contratos privados e ferramentas usadas em serviços essenciais deveriam vir acompanhados de documentação clara sobre dados, limites, testes e responsáveis. Sem isso, a discussão vira uma disputa de confiança cega, e confiança cega é um péssimo mecanismo de controle para sistemas complexos.

Outra medida importante é banalizar o que, hoje, ainda parece excepcional: registro de incidentes, trilhas de auditoria e cadastros públicos de modelos relevantes. Não é glamouroso, mas cria memória institucional. Sem memória, cada erro vira um primeiro erro; com memória, os riscos deixam de ser invisíveis e passam a ser administráveis.

Sejamos honestos: ninguém faz isso de verdade todos os dias. A maioria das pessoas copia e cola uma solicitação, lê a resposta por alto e segue adiante. Isso é humano. E é exatamente assim que danos sutis passam despercebidos e se tornam normais.

Entre pesquisadores, cresce a defesa do que um deles chama de “heroísmo sem glamour”: construir ferramentas sem glamour, como registros de auditoria, sistemas de notificação de incidentes e cadastros de modelos antes da crise. Isso não vira tendência nas redes sociais, mas faz diferença.

“O cenário assustador não é um robô maligno dominando tudo”, disse-me um cientista sênior de segurança. “É a integração de milhares de sistemas poderosos à infraestrutura crítica, todos otimizados para objetivos de curto prazo, sem que ninguém entenda realmente como o comportamento combinado deles vai se desenrolar.”

• Os governos precisam exigir testes independentes dos sistemas de fronteira, e não confiar apenas em declarações das empresas.
• As empresas de tecnologia precisam ter obrigações legais ao implantar IA de alto risco, e não apenas promessas de relações públicas.
• Os cidadãos precisam de alfabetização básica em IA, assim como um dia aprendemos segurança no trânsito ou higiene alimentar.

Vivendo com a contagem regressiva - sem paralisar

Em nível pessoal, toda essa conversa sobre “não há tempo” pode facilmente disparar uma de duas reações: negação ou paralisia. Ou você dá de ombros e diz: “Faz anos que estão alertando sobre riscos tecnológicos”, ou então lê discussões noturnas sobre risco existencial e sente um nó gelado no estômago. Nenhuma dessas respostas ajuda muito.

Numa noite chuvosa em Berlim, vi um grupo de jovens fundadores e ativistas discutir isso em torno de macarrão barato. Um insistia que a única resposta racional era uma regulação global urgente. Outro resmungava que governos se movem devagar demais, então estamos condenados. Um terceiro só queria saber o que dizer à irmã mais nova, que está na universidade.

Todos nós já vivemos aquele momento em que uma nova tecnologia chega às nossas mãos antes de termos etiqueta, normas ou regras para lidar com ela. A primeira vez que celulares apareceram em salas de aula. A primeira vez que uma rede social transformou fofoca privada em drama público. A primeira vez que um vídeo sintético piscou no seu feed e você precisou olhar duas vezes.

A IA, especialmente na fronteira, é essa mesma história em modo acelerado. O verdadeiro peso emocional de “talvez não haja tempo” não pretende esmagar ninguém. Ele quer sacudir. Quer nos tirar da suposição preguiçosa de que há adultos em algum lugar cuidando disso. Porque, muitas vezes, não há adultos. Só nós, aprendendo em público.

Falando francamente: se você está lendo isto no celular entre duas notificações, já está dentro de um enorme experimento com IA. Os sistemas de recomendação decidem o que você vê. Os filtros de correio eletrônico decidem o que você não vê. Sistemas futuros vão moldar empregos, eleições e talvez até decisões de guerra.

Então, a pergunta que esse pesquisador realmente faz tem menos a ver com cronogramas abstratos e mais a ver com agência. Quanto desse futuro estamos dispostos a terceirizar para um punhado de laboratórios, investidores e equipes de segurança?

E quanto estamos dispostos a trazer para a luz do dia - de forma bagunçada, política e contestada - enquanto ainda há tempo para discutir?

Principais pontos em resumo

Ponto-chave	Detalhe	Relevância para o leitor
Aceleração das capacidades	Os modelos avançam mais rápido do que as leis, as normas e as ferramentas de segurança	Entender por que os alertas sobre falta de tempo aparecem em toda parte
Riscos concretos, não apenas ficção	Golpes de engano em larga escala, projeto biológico, vieses sistêmicos, descoberta de falhas de software	Relacionar a IA a ameaças tangíveis na vida cotidiana e profissional
Preparação distribuída	Testes independentes, barreiras de proteção fortes, cultura de “higiene em IA” para todos	Saber o que governos, empresas e indivíduos podem fazer agora

Perguntas frequentes:

• Isso trata de robôs assassinos dominando o mundo?
  Não exatamente. A maioria dos pesquisadores preocupados com os prazos da IA fala de riscos sistêmicos: desinformação em escala, infraestrutura crítica dependendo de sistemas opacos e modelos que ajudam agentes mal-intencionados a causar danos com mais eficiência.

• O que, de fato, significa “talvez não haja tempo”?
  Significa que as capacidades da IA podem atingir níveis perigosos antes que nossos testes de segurança, regulações e coordenação global estejam maduros o bastante para lidar com elas de maneira confiável.

• Para quando os especialistas estão olhando?
  Há enorme incerteza, mas muitos pesquisadores sérios já tratam os próximos 5 a 15 anos como uma janela em que sistemas muito poderosos podem surgir, e não como um futuro distante de séculos.

• Segurança em IA não é só uma desculpa para desacelerar a inovação?
  Algumas pessoas usam esse argumento dessa forma, mas a maioria dos pesquisadores de segurança trabalha dentro dos próprios laboratórios que constroem esses modelos. O objetivo é evitar cenários em que uma única falha apague os benefícios para todo mundo.

• O que uma pessoa comum pode fazer de verdade?
  Aprender o básico sobre IA, apoiar uma regulação transparente, questionar onde a IA é usada nos serviços dos quais você depende e pressionar seu trabalho ou sua escola a adotar regras claras e públicas para o uso da IA, em vez de avançar às cegas.