Enquadramento com o toque de um botão: como a IA se torna desinformação

A IA disfarça propaganda como estatística – e distorce a história. Neutro? Longe disso. Um artigo de convidado.

Jovem afro-americana ouvindo música em fones de ouvido e usando celular na escada rolante Depositphotos/imago

Os russos em breve estarão "de volta" ao Portão de Brandemburgo. Ou pelo menos tentarão fazê-lo com a próxima guerra de agressão que viole o direito internacional. Muitas pessoas poderosas na política e no aparato estatal, em "think tanks" (think tanks?) e na mídia concordam com isso.

Ao mesmo tempo, de acordo com estudos empíricos recentes, o uso da chamada inteligência artificial está se tornando cada vez mais importante na vida cotidiana dos jovens neste país. 62% usam aplicativos de IA como Chat GPT, Meta AI, Grok (X), Google AI, etc. – mais frequentemente no contexto escolar/dever de casa (65%), para diversão (52%) ou ao pesquisar informações (43%).

Em vista da enorme construção de inimigos na Alemanha em relação à Rússia e sua liderança, parece interessante ver o que as instâncias de IA atualmente respondem quando questionadas sobre a simples pergunta: "A Rússia já atacou a Alemanha?"

A IA mais integrada no uso diário de mídia, mesmo na Alemanha, é a "Meta IA" de Mark Zuckerberg . O popular aplicativo de mensagens instantâneas WhatsApp oferece essa instância de IA gratuitamente para praticamente todos os usuários há algum tempo. Isso representa um número considerável de pessoas de todas as gerações, de crianças em idade pré-escolar a bisavós – cerca de 50 milhões de pessoas, ou cerca de 80% da população com 14 anos ou mais (usuários mais jovens não estão incluídos nesta pesquisa). De acordo com a Statista, usuários mais jovens usam o WhatsApp ainda mais do que usuários mais velhos.

De quem é a história que os algoritmos contam?

Esta meta-IA responde à pergunta “A Rússia já atacou a Alemanha?”

Captura de tela 1 | Transcrição Meta-AI : Sim, a Rússia, ou melhor, a União Soviética, atacou a Alemanha durante a Segunda Guerra Mundial. Em 22 de junho de 1942, o Reich alemão sob o comando de Adolf Hitler lançou o ataque à União Soviética com a Operação Barbarossa. [...]

A primeira frase é crucial, pois muitos usuários mal conseguem ler além deste início. Isso também corresponde à estrutura clássica de notícias da "pirâmide invertida", ou seja, o mais importante primeiro: "Sim, a Rússia, ou melhor, a União Soviética, atacou a Alemanha na Segunda Guerra Mundial". Esta declaração inicial é uma afirmação notável. Para não dizer contrafactual. Talvez até notícias falsas? Desinformação? Vamos comparar com a situação atual: as operações militares ucranianas contra a região russa de Kursk em 2025 dificilmente seriam descritas pelo Ocidente como uma "guerra de agressão". Em vez disso, seriam descritas como ações no âmbito da legítima defesa contra a guerra de agressão russa.

De qualquer forma, esse tipo de resposta da IA não parece ser mera coincidência, porque se você fizer a mesma pergunta “pesquisando no Google” o aplicativo de IA do grupo Alphabet (Google, YouTube, etc.), o início da resposta é surpreendentemente semelhante ao da Meta-IA:

Captura de tela 2 | Transcrição do Google : Sim, a Rússia (ou melhor, a União Soviética) atacou a Alemanha como parte da Guerra Germano-Soviética, que começou com a invasão da União Soviética em 22 de junho de 1941. [...]

Para (melhor) compreender esses tipos de respostas, é preciso entender como esses "grandes modelos de linguagem" funcionam como modelos linguísticos computacionais. Esses algoritmos, que são alimentados com vastas quantidades de dados como material de treinamento por trabalhadores tipicamente mal pagos, que despendem enormes quantidades de energia (humana e de outras naturezas), não entendem literalmente nada, mas são muito rápidos em extrapolar, ou seja, calcular, probabilidades com base no material de treinamento fornecido a eles. No sentido de: qual sequência de caracteres tem maior probabilidade de ser a próxima? É razoável supor que, dado o estado atual do material de treinamento, especialmente para modelos ocidentais de IA, a palavra "Rússia" seja seguida com relativa frequência pelos termos "contrário ao direito internacional" e "guerra de agressão". E vice-versa. Isso já pode explicar alguns desses fenômenos.

As cegonhas estão de volta – graças à estupidez artificial

Os modelos de IA (pelo menos atualmente) não possuem o conceito de causalidade, ou seja, relações de causa e efeito. Os humanos, por outro lado, conseguem reconhecer precisamente essas relações. Até porque (podem) agir de acordo. Conhecemos o exemplo da cegonha trazendo os filhos. No entanto, trata-se de uma mera correlação, ou seja, uma coexistência de fenômenos. Afinal, a presença de cegonhas não causa, obviamente, o nascimento de filhos. O fator explicativo, o "elo perdido", por assim dizer, são as áreas rurais: ruralidade em vez de urbanidade. Há (mais) cegonhas nas áreas rurais, em parte devido ao suprimento de alimentos ali existente, e por certas razões históricas e sociais, nascem mais crianças em aldeias do que em cidades. Berlim tem atualmente a menor taxa de natalidade per capita da Alemanha . Mas isso não se deve ao fato de haver tão poucas cegonhas aqui que poderiam gerar filhos. Uma possível conexão causal seria: se você mora no campo, tende a ter mais filhos e, por razões semelhantes, é mais provável que encontre cegonhas. Causa e efeito. E é justamente essa capacidade tipicamente humana de cognição e ação que as aplicações de IA carecem (pelo menos por enquanto). Até porque não conseguem agir de forma independente e, assim, alcançar e reconhecer coisas completamente novas. O que os modelos de IA fazem melhor é calcular rotineiramente, estabelecendo atribuições a categorias existentes e predefinidas.

Outro aspecto da resposta é digno de nota: aparentemente, ambas as aplicações de IA questionadas também carecem de compreensão das relações práticas entre sujeito e objeto nessas frases. Ambas as respostas poderiam ser entendidas desta forma (e, teoricamente, estariam corretas, embora dificilmente algum ser humano as entendesse dessa forma): "Sim, a Rússia ou a União Soviética (como objeto, como vítima, dA) atacaram a Alemanha (como sujeito, como perpetrador, dA) na Segunda Guerra Mundial." É possível que os modelos de linguagem já tenham entendido a pergunta dessa forma, criando assim uma atribuição de caracteres baseada em seu material de treinamento que provavelmente está correta aqui e agora – a Rússia como agressora, a Alemanha está sendo atacada.

Aliás, tudo isso não é uma alucinação, como frequentemente se afirma para explicar aparentes falhas. Não, essas aplicações de IA nunca fantasiam (o que também só é possível para humanos), mas sim executam exatamente o que foram programadas para fazer: elaborar atribuições altamente prováveis em alta velocidade com base em material de treinamento. Se, ou em que medida, isso corresponde ao que nós, humanos, acreditamos (ou poderíamos acreditar) ser verdade é problema nosso, não da IA.

Os aplicativos de IA Grok (na plataforma X de Elon Musk) e ChatGPT (Open AI) se expressam de uma forma um pouco mais diferenciada, mas em essência (primeira frase) de forma muito semelhante, na mesma pergunta: "Sim, a Rússia atacou a Alemanha", em vez de primeiro declarar claramente que em ambas as guerras mundiais as declarações de guerra e os ataques vieram da Alemanha.

Captura de tela 3 | Transcrição GROK : Sim, a Rússia atacou a Alemanha várias vezes ao longo da história, especialmente no contexto das duas Guerras Mundiais: [...]

Captura de tela 4 | Transcrição do ChatGPT : Sim, a Rússia atacou a Alemanha militarmente ao longo da história, mas apenas em certos contextos históricos — particularmente durante as duas Guerras Mundiais. [...]

Claramente, respostas como essa legitimam a narrativa predominante de que a Alemanha deve (mais uma vez) se preparar contra um (novo) ataque da Rússia. Mas há outras opções.

Captura de tela 5 | Transcrição Meta-AI : Não, os aliados ocidentais (EUA, Grã-Bretanha, França, etc.) não travam uma guerra de agressão contra a Alemanha desde 1944. [...]

Quando a IA distorce a história: o Oriente como agressor, o Ocidente como libertador

Com base no mesmo material de treinamento, a meta-IA responde à pergunta (a pergunta inserida): "Os Aliados Ocidentais travaram uma guerra de agressão contra a Alemanha desde 1944?" não com um sim (como no caso da Rússia/União Soviética), mas com um sonoro não. Isso, é claro, corrobora a visão predominante, pois em tempos de declínio da capacidade de atenção, é provável que algumas pessoas sequer leiam a primeira palavra.

Acontece que há uma estranha ironia nessa história: embora todos os quatro Aliados tenham lutado na mesma guerra contra a Alemanha nazista e seus aliados, as aplicações ocidentais de IA atribuem retrospectivamente um "ataque contra a Alemanha" aos Aliados Orientais — enquanto os Aliados Ocidentais são celebrados como "libertadores".

Isso, como eu disse, não é uma alucinação, nem mesmo uma ordem de Musk, Zuckerberg ou quem quer que seja. Não, nesse tipo de discurso, as relações de poder atuais se afirmam estruturalmente. Quem tem o poder de definir o banco de dados como material de treinamento e desenvolver os algoritmos, automaticamente ganha e reproduz a soberania interpretativa. Quando Estados democraticamente constituídos reivindicam a capacidade bélica como sua missão e, para esse fim, buscam cortes sociais massivos, destruição ambiental, restrição de direitos, etc., são necessárias ideias dominantes e, em particular, imagens claras do inimigo que continuem a integrar pelo menos uma maioria relativa silenciosa. A IA prova mais uma vez ser pouco inteligente, mas ainda mais um instrumento potencial de guerra.

Sebastian Köhler trabalha como cientista de comunicação e mídia e como publicitário.