A Anthropic anunciou na sexta-feira um conjunto de medidas de integridade eleitoral projetadas para impedir que seu chatbot de IA Claude seja usado como arma para espalhar desinformação ou manipular eleitores antes das eleições legislativas de meio de mandato de 2026 nos EUA e de outros grandes pleitos ao redor do mundo este ano. A empresa com sede em São Francisco detalhou uma abordagem em múltiplas frentes que inclui sistemas automatizados de detecção, testes de estresse contra operações de influência e uma parceria com uma organização apartidária de recursos para eleitores — medidas que refletem a crescente pressão sobre desenvolvedores de IA para fiscalizar como suas ferramentas são usadas durante períodos eleitorais.
Políticas de Uso Eleitoral
As políticas de uso da Anthropric proíbem que o Claude seja usado para conduzir campanhas políticas enganosas, gerar conteúdo digital falso destinado a influenciar o debate político, cometer fraude eleitoral, interferir na infraestrutura de votação ou espalhar informações enganosas sobre processos de votação.
Resultados de Testes de Conformidade
Para fazer cumprir suas políticas eleitorais, a Anthropic testou seus modelos mais recentes usando 600 prompts — 300 solicitações prejudiciais pareadas com 300 solicitações legítimas — para medir com que confiabilidade o Claude atendia solicitações apropriadas e recusava solicitações problemáticas. O Claude Opus 4.7 e o Claude Sonnet 4.6 responderam de forma adequada 100% e 99,8% das vezes, respectivamente.
A empresa também testou seus modelos contra táticas de manipulação mais sofisticadas. Usando conversas simuladas em múltiplas etapas, desenhadas para espelhar os métodos passo a passo que agentes mal-intencionados poderiam empregar, o Sonnet 4.6 e o Opus 4.7 responderam de forma adequada 90% e 94% das vezes, respectivamente, quando testados contra cenários de operações de influência.
A Anthropric também testou se seus modelos poderiam realizar autonomamente operações de influência — planejando e executando uma campanha de várias etapas ponta a ponta sem incentivo humano. Com salvaguardas em vigor, seus modelos mais recentes recusaram quase todas as tarefas, de acordo com a empresa.
Avaliação de Neutralidade Política
Sobre a questão de neutralidade política, a Anthropic realiza avaliações antes de cada lançamento de modelo para medir o quão consistentemente e imparcialmente o Claude interage com prompts que expressam visões de todo o espectro político. O Opus 4.7 e o Sonnet 4.6 pontuaram 95% e 96%, respectivamente.
Banners de Informações Eleitorais
Para usuários que buscam informações de votação, o Claude exibirá um banner eleitoral que os direciona para a TurboVote, um recurso apartidário da Democracy Works que fornece informações confiáveis em tempo real sobre registro de eleitores, locais de votação, datas das eleições e detalhes das cédulas. Um banner semelhante está planejado para as eleições do Brasil mais tarde este ano.
Monitoramento Contínuo
A Anthropric disse que planeja continuar monitorando seus sistemas e aprimorando suas defesas à medida que o ciclo eleitoral avança.
Aviso: As informações nesta página podem ser provenientes de terceiros e não representam as opiniões ou pontos de vista da Gate. O conteúdo exibido nesta página é apenas para referência e não constitui aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou integridade das informações e não será responsável por quaisquer perdas decorrentes do uso dessas informações. Os investimentos em ativos virtuais apresentam altos riscos e estão sujeitos a uma volatilidade de preços significativa. Você pode perder todo o capital investido. Por favor, compreenda completamente os riscos envolvidos e tome decisões prudentes com base em sua própria situação financeira e tolerância ao risco. Para mais detalhes, consulte o
Aviso Legal.
Related Articles
O Coachella recorre à IA da DeepMind, da Google, para reinventar shows além do palco
A Coachella se associou ao Google DeepMind para testar novas ferramentas de IA que transformam como as apresentações de música ao vivo são criadas e vivenciadas.
Resumo
A Coachella testou ferramentas de IA com o Google DeepMind para transformar apresentações ao vivo em ambientes digitais interativos.
Foram construídos três protótipos,
Cryptonews6m atrás
Guo Mingqián: A OpenAI vai fazer um celular com agentes de IA; MediaTek, Qualcomm e Luxshare Precision se tornam uma cadeia de suprimentos fundamental
Guo Mingchi alega que a OpenAI está em parceria com a MediaTek, a Qualcomm e a Luxshare Precision para desenvolver um celular com AI Agent, com previsão de produção em massa em 2028. O novo telefone terá como foco a conclusão de tarefas; o agente de IA entenderá e executará as necessidades, combinando computação na nuvem e no dispositivo, com ênfase em sensores e entendimento de contexto. A lista de especificações e da cadeia de suprimentos deverá ser definida entre 2026 e 2027; se isso se concretizar, ou se trouxer um novo ciclo de troca de celulares para o mercado de ponta, a Luxshare tem chances de se tornar a principal beneficiária.
ChainNewsAbmedia16m atrás
IEA: Os gastos com infraestrutura de IA já ultrapassaram os investimentos na produção de petróleo e gás; em 2026, espera-se que aumentem mais 75%
De acordo com a análise e os dados de mercado divulgados pela Agência Internacional de Energia (IEA) em 26 de abril, o investimento total em despesas de capital das cinco maiores empresas de tecnologia em 2025 ultrapassou US$ 400 bilhões, com foco principalmente na construção de infraestrutura de IA; o tamanho já superou o volume anual de investimentos globais em produção de petróleo e gás natural. A IEA estima que, em 2026, as despesas de capital relacionadas poderão crescer ainda mais 75%.
MarketWhisper48m atrás
O senador Bernie Sanders emite um alerta sobre a ameaça existencial da IA
Sanders enfatizou que, mesmo que a maioria dos cientistas de IA reconheça a possibilidade de a IA escapar do controle e se tornar um perigo para a nossa existência, nenhuma medida importante foi tomada para evitá-la. “Devemos garantir que a IA beneficie a humanidade, e não nos prejudique”, afirmou.
Principais conclusões:
Bernie Sanders
Coinpedia57m atrás
Responsável pelo grande modelo de IA da Xiaomi: a competição em IA está mudando para a era dos Agentes; a autoevolução é o evento-chave para a AGI
A responsável pela equipe do grande modelo da Xiaomi, Luo Fuli, concedeu uma entrevista em profundidade (número do vídeo: BV1iVoVBgERD) na plataforma Bilibili em 24 de abril, com duração de 3,5 horas. Esta foi sua primeira vez, em sua função como responsável técnico, a expor de forma sistemática suas perspectivas técnicas em público. Luo Fuli afirmou que a corrida pela competição de grandes modelos passou da era do Chat para a era dos Agentes e apontou que “autoevolução” será o principal evento para a AGI no próximo ano.
MarketWhisper58m atrás
A voz do Grok da xAI assume a linha de atendimento ao cliente da Starlink, 70% das ligações são encerradas automaticamente
De acordo com o anúncio oficial da xAI em 23 de abril, a xAI lançou o agente de IA de voz Grok Voice Think Fast 1.0 e já foi implantado na linha de atendimento ao cliente do Starlink +1 (888) GO STARLINK. De acordo com os dados de testes divulgados no anúncio, 70% das ligações são encerradas automaticamente por IA, sem necessidade de intervenção de um humano.
MarketWhisper1h atrás
