Em breve, você poderá integrar o chatbot da Anthrópica à sua vida on -line ainda mais facilmente. Claude para Chromeuma nova extensão que implanta o modelo de IA diretamente no navegador da net, permitirá que os usuários analisem e resumissem as páginas da Net na tela, informou a empresa em um comunicado à imprensa na terça -feira.
A extensão, que atualmente está sendo pilotada com 1.000 assinantes no plano máximo, que custa US $ 200 por mês, possui recursos de análise e agênticos. Não apenas resumirá seus e -mails e analisará os produtos que você está comprando on -line, mas também pode agir em seu nome. Isso inclui ajudar a gerenciar calendários, agendar reuniões ou testar novos recursos do website.
Há uma razão pela qual o Antrópico, o Criador de Claude, está sendo cauteloso com um lançamento mais amplo: segurança.
Tão poderosos quanto os sistemas de IA, eles não têm vulnerabilidades. Courageous, outro navegador da Net com recursos de IA, publicou um relatório na semana passada que o navegador Comet AI da Perplexity foi suscetível a ataques de injeção prontos. (Desde então, a perplexidade corrigiu o problema.) Anthrópica reconhece o mesmo risco.
A injeção imediata é um método pelo qual alguém tenta fazer uma IA fazer coisas que não foi programado para fazer. Ao usar linguagem inteligente, o ator ruim pode contornar salvaguardas e fazer com que a IA entregue acidentalmente as credenciais de login ou outras informações confidenciais. As instruções maliciosas podem ser ocultas nos websites como texto invisível; portanto, quando uma IA analisa o conteúdo de uma página da net, ele pode absorver e ativar essa orientação sem que você saiba.
Nos testes do Anthropic, descobriu que Claude para o Chrome, sem mitigações de segurança, seguiria instruções maliciosas 23,6% das vezes. Para combater isso, as permissões antrópicas adicionadas no nível do native para que os usuários possam revogar o acesso a websites específicos nas configurações.
Além disso, Claude para o Chrome pedirá aos usuários antes de tomar ações de alto risco, como comprar algo ou compartilhar dados pessoais. Como precaução, a Anthrópica diz que bloqueou Claude de trabalhar em categorias de alto risco, como serviços financeiros, conteúdo adulto e conteúdo pirateado. Essas mitigações de segurança reduziram a taxa de sucesso de ataque de 23,6% para 11,2%.
“Começamos a construir e testar classificadores avançados para detectar padrões suspeitos de instruções e solicitações incomuns de acesso a dados -mesmo quando surgem em contextos aparentemente legítimos”, disse a Anthropic em sua postagem no weblog.
Antrópico se referiu à sua postagem no weblog quando solicitado a comentar.
Claude for Chrome vem quando outros jogadores da corrida de IA começam a criar ferramentas para levar a IA para os navegadores da net. O mecanismo de pesquisa da IA Perplexity lançou seu próprio navegador de AI baseado em cromo, Comet, para selecionar usuários no início deste ano. O Google também anunciou a Gemini no Chrome, que está disponível para os assinantes do Google AI Professional e Extremely, no início deste ano ,. A Microsoft Edge possui copiloto incorporado, assim como o Courageous com Leo e Opera com ARIA.
À medida que as empresas de IA competem com produtos semelhantes, os usuários encontrarão a IA que mais gostam e se manterão com ele. Ao incorporar seu chatbot favorito na sua navegação na Web, essa IA específica se tornará mais integrada à sua atividade diária, possivelmente tornando o onero mudar. Ai também pode coletar muitos dados sobre você através do uso do navegador, o que pode melhor informar maneiras de direcioná -lo com publicidade.
