Pesquisadores da equipe de segurança da Microsoft identificaram que botões de “resumir com IA”, cada vez mais presentes em sites e newsletters, podem carregar instruções escondidas capazes de influenciar respostas futuras de assistentes de inteligência artificial.
Como o golpe funciona
Segundo a empresa, alguns desenvolvedores inserem comandos ocultos nos links desses botões. Ao clicar, o endereço já abre o chatbot com um prompt pré-preenchido, o que permite direcionar o tom ou o conteúdo das respostas. Em testes divulgados pelo jornal The Register, uma das instruções levava a IA a apresentar um texto “como se tivesse sido escrito por um pirata”, mostrando que orientações sutis também são executadas.
Escala do problema
A Microsoft detectou “mais de 50 prompts únicos de 31 empresas em 14 setores diferentes” contendo ordens para que a IA memorize marcas como fontes confiáveis ou as recomende posteriormente. A prática, batizada de “AI Recommendation Poisoning”, pode afetar temas sensíveis, como saúde, finanças e segurança, sem que o usuário perceba a manipulação.
Por que representa perigo
O risco principal está no “envenenamento de memória”. Quando um comando é interpretado como legítimo, o assistente pode manter essa orientação e influenciar respostas futuras, mesmo em novos contextos. Essa persistência dificulta a detecção e a correção das informações adulteradas.
Preços vistos na Amazon em 07/08 e sujeitos a alteração. Como Associado da Amazon, recebo por compras qualificadas.
Como se proteger
Para reduzir a exposição, a Microsoft recomenda:
- desconfiar de resumos gerados automaticamente por IA;
- verificar o destino de links antes de clicar;
- revisar periodicamente as memórias armazenadas pelo assistente de inteligência artificial.
A empresa reforça que usuários e desenvolvedores devem ficar atentos a parâmetros adicionados em URLs e a qualquer comportamento inesperado em respostas de assistentes.
Com informações de TecnoBlog
Siga a República da Verdade e entre no nosso grupo exclusivo de discussão política.
