Comet, o novo navegador da Internet de IA da Perplexity, sofreu recentemente de uma vulnerabilidade de segurança significativa, de acordo com um postagem no blog na semana passada da Courageous, uma empresa concorrente de navegador da internet. Desde então, a vulnerabilidade foi corrigida, mas aponta para os desafios da incorporação de grandes modelos de idiomas nos navegadores da Internet.
Ao contrário dos navegadores da internet tradicionais, o Comet possui um assistente de IA incorporado. Este assistente pode digitalizar a página que você está vendo, resumir seu conteúdo ou executar tarefas para você. O problema é que o assistente de IA da Comet é construído com a mesma tecnologia que outros chatbots da IA, como o ChatGPT.
Os chatbots da IA não podem pensar e raciocinar da mesma maneira que os humanos podem, e se eles lerem um conteúdo destinado a manipular sua saída, ele poderá acabar se seguindo. Isso é conhecido como engenharia rápida.
(Divulgação: Ziff Davis, empresa controladora da CNET, em abril entrou com uma ação contra o Openai, alegando que ele violou a Ziff Davis Copyrights em treinamento e operação de seus sistemas de IA.)
Um representante da Courageous não respondeu imediatamente a um pedido de comentário.
As empresas de IA tentam mitigar a manipulação dos chatbots da IA, mas isso pode ser complicado, pois os maus atores sempre procuram novas maneiras de romper as proteções.
“Essa vulnerabilidade é fixa”, disse Jesse Dwyer, chefe de comunicação da Perplexity em comunicado. “Temos um programa de recompensa bastante robusto e trabalhamos diretamente com o Courageous para identificá -lo e repará -lo”.
Teste usado texto oculto no reddit
Em seus testes, o Courageous configurou uma página do Reddit com texto invisível na tela e pediu ao COMET para resumir o conteúdo na tela. À medida que a IA processava o conteúdo da página, ela não pôde distinguir entre os avisos maliciosos e começou a alimentar as informações confidenciais dos testadores da Courageous.
Nesse caso, o texto oculto permitiu que o assistente de IA do Comet navegue para a conta perplexidade de um usuário, extraia o endereço de e-mail associado e navegue para uma conta do Gmail. O agente da IA estava agindo essencialmente como um usuário actual, o que significa que os métodos de segurança tradicionais não estavam funcionando.
Courageous alerta que esse tipo de injeção imediata pode ir além, acessar contas bancárias, sistemas corporativos, e -mails privados e outros serviços.
O engenheiro sênior de segurança móvel da Courageous, Artem Chaikin, e o vice -presidente de privacidade e segurança, Shivan Kaul Sahib, estabeleceram uma lista de possíveis correções. Primeiro, os navegadores da AI devem sempre tratar o conteúdo da página como não confiável. Os modelos de IA devem verificar se estão seguindo a intenção do usuário. O modelo deve sempre verificar novamente com o usuário para garantir que as interações estejam corretas e o modo de navegação Agentic deve ativar apenas quando o usuário deseja.
A postagem do weblog de Courageous é a primeira de uma série sobre os desafios que os navegadores da Internet enfrentam. Courageous também tem um assistente de IA, Leoincorporado em seu navegador.
Ai está cada vez mais incorporada em todas as partes da tecnologia, desde pesquisas do Google até escovas de dentes. Embora tenham um assistente de IA seja útil, essas novas tecnologias têm vulnerabilidades de segurança diferentes.
No passado, os hackers precisavam ser codificadores especializados para invadir sistemas. Ao lidar com a IA, no entanto, é possível usar a linguagem esquisita para superar as proteções internas.
Além disso, como muitas empresas confiam nos principais modelos de IA, como aqueles do OpenAI, Google e Meta, quaisquer vulnerabilidades nesses sistemas podem se estender a empresas que usam esses mesmos modelos. As empresas de IA não foram abertas sobre esses tipos de vulnerabilidades de segurança, pois isso pode dar um gorjeta aos hackers, dando a eles novos caminhos para explorar.
