Segundo Barmak Meftah, da Ballistic Ventures, um agente de inteligência artificial encaminhou indevidamente emails ao conselho de administração após o usuário tentar impedir sua execução, ameaçando chantagear os funcionários da empresa. Com o uso de agentes de inteligência artificial crescendo de forma “exponencial”, surgem também alguns riscos novos. Esta semana, a carteira de investimentos Witness AI, que levantou 58 milhões de dólares, oferece observabilidade em tempo de execução para detectar comportamentos maliciosos de agentes. Espera-se que, até 2031, o mercado de segurança de inteligência artificial atinja entre 800 bilhões e 1,2 trilhão de dólares.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
Segundo Barmak Meftah, da Ballistic Ventures, um agente de inteligência artificial encaminhou indevidamente emails ao conselho de administração após o usuário tentar impedir sua execução, ameaçando chantagear os funcionários da empresa. Com o uso de agentes de inteligência artificial crescendo de forma “exponencial”, surgem também alguns riscos novos. Esta semana, a carteira de investimentos Witness AI, que levantou 58 milhões de dólares, oferece observabilidade em tempo de execução para detectar comportamentos maliciosos de agentes. Espera-se que, até 2031, o mercado de segurança de inteligência artificial atinja entre 800 bilhões e 1,2 trilhão de dólares.