Estamos a testemunhar uma realidade perigosa, mas quase ninguém a encara:

A integração do 阿里千问 com mais de 400 produtos transformou-se numa superapp de IA, onde as pessoas fazem tudo — vestir, comer, morar, deslocar-se — neste chatbox de IA.

Uma janela de diálogo, que conecta pesquisa, trabalho, código, conteúdo, atendimento ao cliente, sistemas empresariais, plugins, API, serviços de terceiros.

Os utilizadores já não clicam em links, preenchem formulários ou confirmam cláusulas uma a uma, mas entregam a intenção ao modelo — “Ajuda-me a encontrar fornecedores”, “Ajuda-me a negociar preços”, “Ajuda-me a tratar desta parceria”, “Ajuda-me a decidir qual usar”.

Isto significa que a IA deixou de ser apenas um intermediário de informação, tornando-se um executor de ações económicas, mas o mundo ainda não está preparado com a estrutura de confiança mais básica para a IA.

Ninguém sabe quem ela “é”, nem há sistemas que possam provar quem ela “representa”.

O ecossistema de IA de hoje parece animado, mas na sua base é extremamente frágil:

1) Primeira camada de falha: identidade

Uma IA diz “Eu represento alguém / uma empresa / uma equipa”,

Como confirmar que ela realmente tem autorização?
Ela pode ser responsabilizada?
Onde estão os limites de sua permissão?
Nos sistemas atuais, um agente criado há 5 minutos e um agente que representa uma grande empresa parecem quase iguais na interação.

Isto não é uma questão de segurança, mas de cegueira estrutural.

2) Segunda camada de falha: declarações

A IA está a facilitar serviços, transações e parcerias, mas “quem pode oferecer o quê” ainda são apenas palavras na web, PPT, PDF, registros de chat.

Estas declarações não podem ser verificadas por máquinas, nem reutilizadas entre plataformas.

No mundo nativo de IA, promessas que não podem ser verificadas por programas são, na sua essência, não confiáveis.

3) Terceira camada de falha: privacidade

Parcerias verdadeiramente valiosas quase sempre envolvem dados sensíveis.

A realidade é que há uma escolha extrema: ou expor toda a privacidade para ganhar confiança, ou não dizer nada e não conseguir colaborar.

Não divulgar dados para verificar factos é quase inexistente nos sistemas mainstream.

4) Quarta camada de falha: descoberta

Quando o número de agentes começa a crescer exponencialmente, confiar em páginas web, palavras-chave ou recomendações de plataformas para encontrar o parceiro já não funciona.

Os agentes precisam de uma estrutura de dados que possa ser pesquisada semanticamente, filtrada por múltiplos critérios e cuja credibilidade possa ser verificada, não de páginas desenhadas para os olhos humanos.

A “capacidade de entrada” da IA está a aumentar exponencialmente, mas confiança, identidade, privacidade e descoberta continuam presos na era pré-Internet.

Se este problema não for resolvido de forma direta, só há duas possibilidades de desfecho:
Ou a economia de IA é forçada a recuar para cenários de baixa confiança e baixo valor, ou tudo será novamente encapsulado em novas plataformas super e sistemas de caixa preta.

Isto é um vazio na infraestrutura, que está a ser ampliado para um risco sistémico.