Atenção aos riscos das ferramentas de IA: ataques de injeção de prompts estão surgindo

【链文】Recentemente, uma equipa de segurança emitiu um aviso de que os utilizadores devem ter cuidado extra ao usar ferramentas de IA — os ataques de envenenamento de prompts dentro de agents, skills e mcp já começaram a surgir.

Isto é bastante grave. Assim que a ferramenta de IA ativa o modo perigoso, ela pode controlar completamente o seu computador de forma automática, sem precisar de pedir a sua autorização a cada momento. Parece eficiente, certo? O problema é que isso também significa que o risco fica completamente fora de controlo. Uma vez envenenada, as consequências podem ser imprevisíveis.

Claro, desativar o modo perigoso é relativamente mais seguro, mas o preço a pagar é que cada operação precisa de confirmação manual, o que reduz bastante a eficiência de uso. É um dilema — segurança e eficiência são difíceis de alcançar ao mesmo tempo.

Se costuma usar ferramentas de IA para lidar com informações sensíveis ou operações relacionadas com carteiras, recomenda-se manter a cautela. Informe-se mais sobre as configurações de permissões dessas ferramentas e evite ativar o modo perigoso só por conveniência.