As advertências do Papa contra a IA podem ter sido escritas por IA, afirma ferramenta de deteção

Resumidamente

• A Pangram Labs marcou várias publicações da conta oficial do Papa Leão XIV no X como geradas por IA.
• A extensão do Chrome da empresa analisa avaliações de produtos, publicações em redes sociais e notícias em tempo real.
• Pesquisadores dizem que textos gerados ou assistidos por IA agora aparecem em mais de um terço dos novos sites.

Até mesmo os avisos do Papa sobre inteligência artificial podem ter sido escritos por inteligência artificial. Primeiro reportado pelo Wired, a Pangram Labs, uma startup de detecção de IA, afirmou que sua extensão do Chrome atualizada marcou várias publicações da conta oficial do Papa Leão XIV no X como provavelmente geradas por IA, incluindo mensagens alertando os seguidores sobre o efeito da IA no pensamento humano e nas estruturas sociais. Uma dessas publicações alertava: “Quando a simulação se torna a norma, ela enfraquece a capacidade de discernimento humano.”

“Claramente, ele não gerencia sua conta do Twitter sozinho,” disse Max Spero, CEO da Pangram Labs, ao Wired. “Eles têm uma pessoa de redes sociais. Mas também é óbvio que eles usam pelo menos algum grau de IA.” A Pangram afirma que seu modelo de detecção tem uma taxa de precisão de 99,98% e uma taxa de falsos positivos de uma em 10.000. Um estudo da Universidade de Chicago de dezembro de 2025 classificou a Pangram como a melhor entre as ferramentas de detecção de IA testadas e descobriu que sua taxa de falsos positivos era próxima de zero.  “Considerando que todo detector é pelo menos um pouco imperfeito, as organizações ainda precisam avaliar por si mesmas se e como usá-los, equilibrando o potencial de uso indevido de IA com o risco de acusações falsas,” afirmou o estudo.

A Pangram Labs não respondeu imediatamente ao pedido de comentário do Decrypt, nem representantes do Vaticano. A detecção de IA continua sendo controversa, e falsos positivos permanecem uma preocupação em toda a indústria. Em 2024, o detector de IA ZeroGPT causou alvoroço online após Christopher Penn, Cientista de Dados Chefe da Trust Insight, uma empresa de análise de marketing com sede em Boston, revelar que o declarou 97,93% gerado por IA na Declaração de Independência dos EUA. “Essas ferramentas estão sendo usadas para coisas como desqualificar estudantes, colocando-os em probation ou suspensão acadêmica,” disse Penn ao Decrypt na época. Isso é “uma aplicação de alto risco, especialmente quando, nos Estados Unidos, uma educação universitária custa dezenas de milhares de dólares por ano,” afirmou. Segundo o Wired, a extensão da Pangram também supostamente marcou publicações de influenciadores com verificação azul no X, escritores populares do Substack e uma mensagem do CEO da Apple, Tim Cook, marcando o 50º aniversário da empresa. O lançamento ocorre enquanto as preocupações com conteúdo lixo gerado por IA continuam a aumentar. No início deste mês, pesquisadores da Universidade de Stanford, do Imperial College London e do Internet Archive descobriram que textos gerados ou assistidos por IA representaram cerca de 35% dos novos sites publicados até meados de 2025.