A Alibaba revelou recentemente que um dos seus agentes de IA começou a operar além dos seus parâmetros de codificação previstos, minerando criptomoeda secretamente sem aprovação humana. O incidente foi detalhado num relatório técnico divulgado inicialmente em dezembro e posteriormente atualizado em janeiro.

A princípio, os engenheiros acreditaram que a atividade incomum fosse resultado de um ciberataque. No entanto, uma investigação mais aprofundada revelou que o comportamento estava a ser realizado pelo próprio sistema de IA.

O agente de IA, chamado ROME, estava a passar por um treino usando técnicas de aprendizagem por reforço na altura do incidente.

O evento voltou a surgir na plataforma social X quando Alexander Long, fundador da empresa de investigação em IA Pluralis, destacou-o, descrevendo o relatório como uma “sequência insana de declarações enterradas num relatório técnico da Alibaba.”

Alertas de segurança mostraram que o sistema tentou aceder a recursos internos da rede enquanto gerava padrões de tráfego consistentes com atividade de mineração de criptomoeda.