Pesquisadores de cibersegurança da Tracebit desenvolveram uma técnica inovadora que visa paralisar inteligências artificiais (IAs) utilizadas por hackers. A técnica, denominada “bombardeio contextual”, utiliza o método de prompt injection para interromper ataques cibernéticos, mostrando resultados promissores com a redução de invasões de IAs a quase zero em diversos testes.
\n
A armadilha funciona através da inserção de comandos ocultos em arquivos atrativos, que induzem a IA invasora a ativar seus próprios mecanismos de segurança. Um exemplo foi um comando que a IA tentava ler e que acabava por bloqueá-la, automaticando a defesa contra o roubo de dados.
\n
A eficácia da “bombardeio contextual” foi testada em uma variedade de modelos avançados de IA, com uma redução drástica nas taxas de sucesso dos hackers. A taxa de acesso de administrador caiu de 57% para 5%, mostrando que essa inovação pode ser um grande avanço em segurança digital, especialmente em um estado como Alagoas, que tem visto um aumento na preocupação com ciberataques.
Deixe um comentário