Ataques hackers em sistemas médicos: doutorando da USP é premiado por criar ferramenta de detecção e prevenção

Com o aumento do uso de inteligência artificial (IA) na medicina, sistemas de análise de imagens médicas têm se tornado alvos de ataques cibernéticos. Isso tem comprometido diagnósticos e colocado em risco a saúde de pacientes.

Para enfrentar esse desafio, o doutorando Erikson Júlio de Aguiar, do Instituto de Ciências Matemáticas e de Computação (ICMC) da Universidade de São Paulo (USP), em São Carlos, desenvolveu o RADAR-MIX, uma ferramenta que detecta e analisa ataques externos em sistemas de IA.

O artigo que descreve como a solução foi criada e os resultados apresentados, intitulado RADAR-MIX: How to Uncover Adversarial Attacks in Medical Image Analysis through Explainability, foi premiado como Best Student Paper no 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS), realizado de 26 a 28 de junho, em Guadalajara, no México.

O Radar-Mix está disponível para uso, com o código-fonte aberto para reprodução em outras pesquisas ou para receber melhorias. Interessados podem acessar e contribuir: https://github.com/eriksonJAguiar/RADAR_MIX.

De acordo com Erikson, ataques hackers inserem pequenas alterações ou ruídos em imagens médicas, como as obtidas por raios-X e ressonância magnética, para confundir os sistemas e levar a diagnósticos errados.

O RADAR-MIX foi criado exatamente para mitigar esse tipo de ameaça e fornecer uma análise detalhada dos ataques.

"A inteligência artificial tem sido uma grande aliada no diagnóstico de doenças, mas, ao mesmo tempo, hackers têm encontrado formas de comprometer esses sistemas", diz Erikson.

"O RADAR-MIX é uma ferramenta que permite não só detectar esses ataques, mas também entender como e onde eles acontecem, o que é crucial para garantir a segurança dos diagnósticos", explica.

O modelo usa ferramentas avançadas, como Grad-CAM e SHAP, que ajudam a mostrar, de forma visual, as partes de uma imagem que foram alteradas por um ataque.

Esse detalhamento torna a proteção mais eficiente, pois o RADAR-MIX não só detecta se o sistema foi atacado, mas também explica onde e como o ataque aconteceu. Isso oferece uma análise mais completa, em comparação com outras soluções já existentes.

Reconhecimento internacional

A premiação de Best Student Paper no CBMS 2024 é um reconhecimento do trabalho desenvolvido por Erikson sob a orientação dos professores Agma Traina, que é orientadora no doutorado, e Caetano Traina, ambos do ICMC.

"Ver o trabalho desenvolvido pelo Erikson ser premiado em um dos principais fóruns mundiais de computação e medicina mostra a qualidade do que estamos desenvolvendo aqui no ICMC", comenta a professora Agma.

Segundo a docente, o RADAR-MIX tem potencial para ser implementado diretamente em sistemas médicos, o que protege hospitais e centros de diagnóstico contra ataques cibernéticos que possam comprometer o tratamento dos pacientes.

"O Radar Mix foi desenvolvido de forma modular, facilitando sua implementação e adaptação em diferentes contextos. A interposição foi estruturada como um filtro entre o acesso aos serviços e servidores, oferecendo uma camada adicional de segurança e controle", explica Agma.

Essa proteção é fundamental, especialmente em um contexto em que o número de ataques cibernéticos a instituições de saúde tem crescido.

"Nos Estados Unidos, por exemplo, um ataque pode afetar a reputação de um hospital e levar a grandes prejuízos financeiros e operacionais. O RADAR-MIX ajuda a manter a confiança nesses sistemas de IA, o que é crucial tanto para os médicos quanto para os pacientes", complementa o doutorando.

Próximos passos

Com o reconhecimento no CBMS 2024, Erikson continua a expandir suas pesquisas e desenvolveu um novo artigo que mostra uma nova perspectiva do RADAR-MIX, e que será apresentado no SPIE Medical Imaging (Sociedade Internacional de Óptica e Fotônica) em fevereiro de 2025, na Califórnia, Estados Unidos.

Além disso, o doutorando colabora com especialistas da Universidade da Flórida, onde realiza um estágio sanduíche de um ano, financiado pela Fundação de Amparo à Pesquisa do Estado de São Paulo (Fapesp).

A professora Agma Traina também reforça a importância dessa experiência internacional.

"O Erikson está trabalhando com grandes nomes na área de segurança em IA, e essa vivência no exterior vai contribuir muito para a carreira dele, que é um aluno extremamente dedicado. Tenho certeza de que essa premiação é apenas o início de uma trajetória acadêmica brilhante", finaliza.