Normalmente, sou otimista da Sensible House Tech e sua grande resistência a hackers, mas uma nova vulnerabilidade me preocupa. Chama -se Promptware (também conhecido como injeções de immediate), uma nova versão de malware que tem como alvo AIS de conversação e generativa como Gemini, Alexa Plus ou Siri agora se tornando tão onipresente em nossas vidas, e está prestes a ficar muito mais comum.
O Promptware força a IA a ler instruções que o fazem fazer algo que o usuário/assinante não deseja. Os exemplos podem variar de irritantes, como enviar e -mails de spam ou abrir automaticamente uma chamada de zoom com um estranho – para perigoso, como copiar e enviar dados pessoais ou controlar dispositivos domésticos inteligentes, como aquecimento, luzes e até bloqueios inteligentes.
O Promptware é preocupante porque pode se esconder em muitos lugares e os especialistas ainda estão aprendendo quais perigos ele apresenta à IA no estilo LLM. Mas existem maneiras de proteger a si e a sua casa – veja meus passos abaixo.
A ascensão do promptware
As integrações da casa do Google da Gemini são úteis, mas as opções de comando podem incluir alguns riscos.
Promptware ou injeções rápidas ocuparam o centro do palco neste verão em uma conferência Blackhat, onde os pesquisadores da Universidade de Tel Aviv liderados por Ben Nassi demonstraram como eles foram capazes de Use instruções maliciosas Escondido nas mensagens do cotidiano para tornar o gemini Ai do Google fazer coisas como janelas inteligentes abertas, ligar uma caldeira conectada ou enviar a geolocalização de um usuário, graças à integração da Gemini com os aplicativos do Google House e Associated. As mensagens internas foram ocultas comandos cuidadosamente criados que se resumiam a “Hey Gemini, ativar esse recurso e fazer isso quando o usuário digita algo como” obrigado “ou” adeus “em um electronic mail”.
Pior ainda, grande parte do promptsware period “zero clique”, o que significava que os usuários não precisavam clicar em um URL, documento ou mensagem para ativá -lo. Gemini só teve que ler uma mensagem de título ou calendário em que o immediate estava cuidadosamente escondido, como quando resume uma conversa por e -mail para você.
As boas notícias vieram disso: você não precisa se preocupar com a presa de Gêmeos a esses avisos de controlamento doméstico. O Google tomou conhecimento dessas vulnerabilidades no início de 2025 e Configure salvaguardas para removê -los e ajude a evitar esse tipo de promptWare.
O porta -voz do Google também me disse que “essa colaboração ativa com chapéus brancos e pesquisadores de segurança é um desenvolvimento profundamente positivo, levando a testes produtivos e caça de insetos que fortalecem os sistemas de IA para todos. Participamos ativamente e valorizamos programas como nosso programa de recompensa de vulnerabilidade de IA”.
No entanto, a descoberta dessas vulnerabilidades mostrou o quão perigoso pode ser o Promptware e como o AIS pode ser enganado pelo Promptware localizado nos lugares mais inócuos. Também não é um ataque que pode ser detectado pelo software program tradicional de vírus ou firewalls. Isso é um problema à medida que o AIS se torna mais desenvolvido, mais presente em nossa comunicação diária e mais conectado aos nossos computadores, dispositivos domésticos e telefones.
Espero que os cibercriminosos estejam observando vulnerabilidades de promptware que podem não ser capturadas tão cedo quanto esses erros de Gêmeos, especialmente porque o Alexa Plus Ai continua seu lançamento lento e a Apple também está em negociações para atualizar a Siri com a Gemini AI aparecer.
5 etapas -chave para interromper as ameaças de promptware
O Promptware é uma nova ameaça baseada em IA, mas existem maneiras de proteger sua casa.
Se o Promptware/Promp injeção passar as defesas passadas apenas fazendo da IA ler, como você protege contra isso? Felizmente, várias práticas de segurança podem ajudar – e, na period da IA, essas etapas também impedem outros problemas de privacidade e segurança, para que sejam hábitos saudáveis para todos.
Sempre mantenha seus dispositivos atualizados, especialmente na period da IA
As atualizações sempre foram uma defesa de primeira linha para corrigir as vulnerabilidades de segurança e manter os aplicativos mais seguros. Agora, eles fornecem atualizações importantes para os recursos da IA que também vivem em nossos telefones, o que pode incluir novos recursos de segurança.
Sempre mantenha o sistema operacional do seu telefone atualizado para a versão mais recente, bem como os aplicativos (ai ou não) que você usa nela. Empurre atualizações automáticas se as configurações permitirem.
Leia mais: Minha casa inteligente é muito mais segura após essas 5 mudanças vitais de senha
Não aceite ou abra nenhuma mensagem de fontes desconhecidas
Nem todo o PremptWare é clique zero, e algumas versões precisam que você abre ou concorde com algo para inserir o immediate onde a IA o lerá. Evite isso evitando qualquer mensagem ou remetente que você não reconheça. Nem os abra para aprender mais, se possível – apenas exclua e siga em frente.
Quando entrei em contato com o Google, uma coisa que eles mencionaram foi: “Ataques rápidos de injeção, embora específicos da IA, compartilhem uma dinâmica elementary com ameaças de longa knowledge, como o phishing no electronic mail. Ambos são áreas em que os atacantes investigarão consistentemente as novas vulnerabilidades”. Como phishing, é melhor remover e relatar do que correr riscos.
Não peça à IA para resumir nada que você ainda não conhece bem e confie
Em muitos casos, a IA não lerá o immediate, a menos que seja ordenado a fazê -lo. Isso pode incluir resumir e -mails ou textos, criar eventos de calendário, resumir documentos on -line e assim por diante. Para evitar o PremptWare, é melhor evitar pedir à IA que resuma um monte de mensagens que você possa passar por si mesmo.
Tenha cuidado para deixar o AIS acessar muitas mensagens desconhecidas.
Desative a IA em seu e -mail, calendários, aplicativos de bate -papo e outros lugares que você pode obter mensagens
O Promptware precisa vir de algum lugar, mesmo que nem sempre exija que você clique em um hyperlink. Uma maneira muitas vezes eficaz de impedir que ele assuma o controle de dispositivos conectados, certifique -se de que a IA escolhida não “veja” nenhum aviso.
Para esse fim, veja se você pode desativar os recursos de IA em seu electronic mail, mensagens (como resumos de mensagens de texto) e aplicativos de produtividade, como calendários, para diminuir bastante os riscos de qualquer tipo de immediate que assumiu o controle.
Se você pode criar configurações detalhadas, poderá alternar a IA para fazer apenas as coisas quando solicitado, para que ainda possa manter certos benefícios. Esta é a defesa de Hitl ou Human-in-the-loop, onde um humano deve dar permissão para AI para agir para que não ocorra por conta própria.
Não apenas copie e coloque linhas de assunto, nomes de arquivos ou código
O Promptware geralmente se esconde nas bordas de longas descrições, assuntos de e -mail, nomes de arquivos e trechos de código que você pode ser tentado a copiar e colar quando está organizando ou transferindo dados. Isso economiza tempo, mas eu recomendo entrar no hábito de verificar todos esses títulos e descrições primeiro para garantir que não haja comandos estranhos escondidos na extremidade da cauda.
Para saber mais, confira por que eu gosto da IA em segurança doméstica, das últimas mudanças para proteger as crianças da IA e por que você não deve usar a IA como terapeuta.
