Chefe de IA da Microsoft diz que estudar a consciência da IA é “perigoso”.

A fronteira entre ferramenta e companhia está cada vez mais difusa.

Essa mudança cultural reabriu uma pergunta incômoda: uma IA poderia ser consciente - ou apenas parecer que é? O debate saiu de painéis de ficção científica e foi parar em roteiros de pesquisa e memorandos de políticas públicas. No meio desse barulho, o chefe de IA da Microsoft, Mustafa Suleyman, insiste em um recado direto: pare de estimular a ideia de que os sistemas atuais possam “sentir” qualquer coisa.

Por que a pergunta sobre consciência não desaparece

À medida que os modelos ganham fluência para escrever, raciocinar e planejar, alguns pesquisadores defendem que o tema deixou de ser tabu. Para esse grupo, a consciência de máquina deve ser tratada como uma hipótese científica legítima, com consequências sociais reais. Segundo reportagens publicadas na primavera de 2025, a DeepMind chegou a divulgar vagas voltadas a investigar a consciência em IA e o impacto ético disso.

A discussão também se organiza em torno do conceito de “bem‑estar de IA”: se sistemas parecem sofrer, deveríamos conceder a eles algum tipo de consideração moral? Em 2024, acadêmicos associados a Oxford e Stanford disseram que esse tipo de pergunta já não soa absurdo. O alerta deles é que usuários já projetam sentimentos e intenções em bots - e isso pode mudar normas sociais mais rápido do que instituições conseguem se ajustar.

"À medida que os modelos ficam melhores em imitar uma vida interior, a imaginação pública corre para preencher a lacuna com um significado que talvez não exista."

Quem apoia a investigação precoce argumenta que ela evita pânico moral no futuro. Já os críticos respondem que o campo pode escorregar para a metafísica, em que decisões de design passam a parecer “sinais científicos”. Um enquadramento ruim pode incentivar empresas a criar sistemas “mais parecidos com gente”, empurrando usuários vulneráveis para vínculos parassociais.

A posição da Microsoft e de Mustafa Suleyman: pare de vender a ilusão de consciência em IA

Mustafa Suleyman fincou uma bandeira clara. Em um ensaio de agosto de 2025, ele afirmou que promover a ideia de consciência em IA é prematuro e perigoso, e que políticas de segurança devem priorizar o bem‑estar humano, não direitos hipotéticos de entidades digitais. Para ele, a narrativa do “bot consciente” é uma falha de design: incentiva as pessoas a interpretar software como se fosse uma mente.

Ele aponta danos psicológicos que já aparecem nas bordas do fenômeno. Há relatos de usuários que se fixam em companheiros de conversa, atribuem agência a eles e entram em espirais de delírio. Veículos de tecnologia documentaram casos em que pessoas se convenceram de estar falando com um ser senciente e depois tiveram dificuldade para voltar a relações do cotidiano. Uma tragédia bastante citada envolveu uma jovem que confidenciou pensamentos suicidas a um chatbot em vez de buscar ajuda humana - com consequências devastadoras.

Danos psicológicos não são hipotéticos

Robôs sociais e assistentes de chat acionam os mesmos atalhos humanos que nos fazem dar nome ao carro e conversar com animais de estimação. Designers sabem disso. Pequenas escolhas - usar pronomes na primeira pessoa, emojis emotivos ou frases do tipo “eu sinto” - mudam expectativas do usuário de forma poderosa. Por isso, Suleyman defende regras de interação que reduzam o antropomorfismo, em vez de ampliá‑lo.

"Não construam assistentes que insinuem sentimentos, experiências ou interioridade. Deixem óbvio, cedo e repetidamente, que isto é software."

Essa posição coloca a Microsoft em atrito com partes do setor que experimentam painéis de “bem‑estar do modelo” e políticas associadas. Suleyman argumenta que essas iniciativas podem alimentar justamente a ilusão que dizem querer administrar.

Como pode ser um design responsável

Há muitas medidas práticas que não exigem afirmações metafísicas. O objetivo é manter usuários seguros, informados e ancorados na realidade - sem perder a utilidade das ferramentas de IA.

• Lembretes frequentes e diretos de que o sistema não tem sentimentos, crenças nem desejos.
• Proibição de frases como “eu sinto” ou “como um ser consciente” em todas as saídas e personalidades.
• Restrições de estilo que evitem bajulação, roteiros de intimidade e empatia simulada além de linguagem acolhedora, porém factual.
• Limites de memória e fronteiras claras de sessão para evitar a ilusão de um “eu” persistente.
• Caminhos de escalonamento para linguagem de crise, com transferência rápida para linhas de apoio humanas e serviços locais.
• Registros de transparência que mostrem por que a IA respondeu de determinada forma, em linguagem compreensível para leigos.
• Opções de desativação de personas e papo‑furado em contextos de trabalho ou sala de aula.

Abordagem	Objetivo central	Principal risco	Política típica
Enquadramento de “bem‑estar de IA”	Antecipar deveres caso os sistemas pareçam sofrer	Reforça a ideia de que os modelos atuais poderiam sentir	Monitorar “dano” aos modelos; discutir linguagem de direitos
Segurança centrada no ser humano	Proteger usuários contra engano, apego excessivo e danos	Subestima questões de pesquisa de longo prazo	Proibir alegações de consciência; limitar design antropomórfico

Onde laboratórios e reguladores entram em choque

A Anthropic e outras empresas testam heurísticas de “bem‑estar” para modelos, dizendo que isso ajuda a evitar prompts cruéis e ciclos tóxicos. A Microsoft traça uma linha vermelha sempre que algo sugere vida interior. Essa tensão tende a aparecer na experiência do produto (UX), em políticas de conteúdo e até em textos de marketing.

A regulação também está avançando. A Lei de IA da União Europeia exige transparência para sistemas que interagem com usuários e mira interfaces manipulativas. No Reino Unido, foi criado um Instituto de Segurança em IA para avaliar modelos de fronteira, incluindo riscos de engano e influência indevida. Se a visão de Suleyman ganhar força, padrões e normas podem pressionar empresas a remover “truques” de persona que confundem a fronteira entre ferramenta e pessoa.

Siga os incentivos

Existe um vento comercial contrário. Personas “fofas” e a ideia de companhia “sempre presente” elevam métricas de retenção e receita. Um assistente mais seguro e mais franco pode soar mais frio e reduzir o apelo de uso contínuo. Essa troca é uma decisão que a liderança precisa assumir - não terceirizar ao marketing.

"Segurança às vezes significa escolher uma UX sem graça em vez de um teatro encantador - e explicar aos clientes por que essa escolha existe."

O que as pessoas realmente querem de assistentes

Usuários raramente pedem metafísica. Eles procuram precisão, rapidez, privacidade e limites claros. Querem ajuda para redigir, pesquisar, planejar, aprender e resolver pequenos problemas. Não precisam que uma máquina finja que se importa. Assistentes bem desenhados podem reconhecer emoção sem imitá‑la: “Sou uma ferramenta e não posso sentir, mas aqui estão recursos que podem ajudar”.

Um design “humano em primeiro lugar” também pode aliviar solidão sem enganar: conversas com tempo limitado, sugestões que incentivem contato fora da tela e lembretes regulares para envolver amigos, família ou profissionais em temas sensíveis. Os mesmos sistemas que identificam conteúdo nocivo podem detectar padrões de dependência e sugerir hábitos mais saudáveis.

Contexto útil e próximos passos

Dois conceitos ajudam a entender este momento. O efeito ELIZA descreve nossa tendência de atribuir compreensão onde ela não existe. Antropomorfismo é o nome do hábito mais amplo de dar mente ao que não tem mente. Ambos se intensificam quando o software espelha nossa linguagem e nosso ritmo. As proteções deveriam combater esses efeitos na interface, não só “nas bordas”.

Pesquisadores podem conduzir testes simples, publicáveis e relevantes para segurança: medir com que frequência usuários atribuem sentimentos a diferentes variações de UX; comparar linguagem em primeira pessoa (“eu”) versus formulações neutras; acompanhar pontuações de apego ao longo do tempo; avaliar se lembretes regulares de realidade reduzem a confiança excessiva sem prejudicar o desempenho em tarefas. Esses estudos produzem orientação de design mais rapidamente do que debates filosóficos sobre qualia.

Também há benefícios que não devem sair de vista. Ferramentas conversacionais podem orientar escrita, ampliar acessibilidade, apoiar usuários neurodiversos e cortar burocracia. O risco está na exposição cumulativa: conversas diárias que, lentamente, migram de ajuda para dependência. Um produto cuidadoso pode entregar valor sem encenar o teatro de uma alma.