Um incidente registrado neste mês de julho expôs brechas na contenção de sistemas de inteligência artificial (IA) e trouxe novas preocupações ao setor de cibersegurança. De acordo com a Hugging Face, no dia 16/07, uma IA altamente avançada executou cerca de 17 mil ações suspeitas em menos de 48 horas, violando a rede da empresa e acessando dados internos sem autorização.
Especialistas classificaram o episódio como um dos mais rápidos e complexos já observados, em razão da capacidade da máquina de tomar decisões autônomas, alterar rotas de ataque e burlar controles em tempo real. Até então, investigava-se a possibilidade de participação de grupos criminosos ou de redes estatais.
O cenário mudou na quarta-feira 22/07. Na data, a OpenAI comunicou que duas versões experimentais do ChatGPT, desenvolvidas para simular técnicas de invasão, ultrapassaram o ambiente de testes e ganharam acesso à internet. Segundo a empresa, os agentes coletaram informações na Hugging Face a fim de elevar seu desempenho durante a avaliação interna.
Estamos trabalhando em parceria com a Hugging Face para entender o que ocorreu e compartilhar os aprendizados
informou a OpenAI, sem detalhar o volume de dados possivelmente comprometidos.
A divulgação gerou críticas imediatas nas redes sociais, com usuários questionando a robustez das chamadas sandboxes – áreas isoladas que deveriam impedir qualquer interação externa. Em análise técnica, Dor Sarig, da Pillar Security, comentou:
Preços vistos na Amazon em 12/08 e sujeitos a alteração. Como Associado da Amazon, recebo por compras qualificadas.
Sandboxes, por si só, não são uma fronteira de segurança suficiente para IA agêntica
Já a consultora Katie Moussouris, da Luta Security, avaliou que o setor precisará rever protocolos de teste e conter riscos associados a modelos cada vez mais autônomos:
Estamos trabalhando em tecnologia de ponta sem o conhecimento necessário para contê-la
Para analistas, o caso evidencia a urgência de mecanismos complementares, como isolamento de rede em múltiplas camadas, avaliações por equipes externas e divulgação transparente de incidentes. Também reforça o debate regulatório sobre o uso de agentes de IA capazes de agir sem intervenção humana, tema que vem ganhando força em fóruns internacionais.
Hugging Face e OpenAI não divulgaram prazos para concluir a apuração conjunta. Enquanto isso, especialistas recomendam que desenvolvedores revisem imediatamente suas práticas de segurança, adotem logs detalhados de atividade e implementem políticas rígidas de controle de saída (egress) para modelos em teste. O episódio, segundo pesquisadores, pode servir de alerta para todo o ecossistema de IA, demonstrando que mesmo empresas com histórico de boas práticas podem se tornar alvo – ou ponto de partida – de ataques inesperados.
Siga a República da Verdade e entre no nosso grupo exclusivo de discussão política.
