SEGURANÇA EM SISTEMAS DE INTELIGÊNCIA ARTIFICIAL E MACHINE LEARNING ANÁLISE DE ATAQUES ADVERSARIAIS E ESTRATÉGIAS DE DEFESA - Fracarolli, Igor Luigi; Galloppi, Robson Eduardo (Revista Interface Tecnológica, 2025)
A Inteligência Artificial (IA) e o Machine Learning (ML) têm desempenhado papéis fundamentais na transformação digital, sendo amplamente utilizados em setores como saúde, finanças e transporte. Contudo, essas tecnologias apresentam vulnerabilidades significativas, especialmente em relação a ataques adversariais, que manipulam dados de entrada para comprometer a eficácia e segurança dos modelos. Além disso, o uso de dados enviesados para o treinamento de algoritmos pode perpetuar preconceitos e desigualdades, trazendo à tona preocupações éticas e sociais. Este trabalho tem como objetivo analisar os impactos de ataques adversariais em sistemas de IA e ML, bem como propor estratégias de defesa para garantir a confiabilidade e a segurança dessas tecnologias. Paralelamente, busca-se explorar os desafios éticos relacionados ao uso de dados enviesados, sugerindo diretrizes que promovam maior equidade e responsabilidade. A pesquisa adota uma metodologia bibliográfica, baseada na análise de artigos científicos, relatórios técnicos e estudos de casos. Essa abordagem permite identificar vulnerabilidades, exemplificar ataques adversariais e avaliar as soluções existentes para mitigar seus efeitos. Este trabalho baseia-se em autores que exploram o uso de inteligência artificial em diversas áreas, como linguagem natural (VASWANI et al., 2017; DEVLIN et al., 2019), reconhecimento de fala (RAVANELLI et al., 2020), agricultura (SILVA et al., 2018) e veículos autônomos (FENG et al., 2021), a vulnerabilidade a ataques adversariais (HOSPEDALES et al., 2020). Destacam-se as contribuições dos Transformers e do aprendizado profundo (OTTER et al., 2020). Os resultados indicam que medidas como a utilização de algoritmos robustos, a diversificação dos dados de treinamento e a implementação de testes adversariais contínuos são eficazes na proteção de sistemas de IA e ML. Além disso, destaca-se a necessidade de regulamentações que assegurem a transparência e a ética no desenvolvimento dessas tecnologias. Conclui-se que, para garantir a segurança e a equidade, é essencial combinar estratégias técnicas com diretrizes éticas, promovendo a adoção responsável de IA e ML.