Acompanhe toda a atualidade informativa em 24noticias.sapo.pt

Segundo a Kaspersky, as alterações testadas incluíram efeitos de envelhecimento e rejuvenescimento capazes de produzir imagens que, para observadores humanos, pareciam corresponder a indivíduos completamente diferentes. Ainda assim, os sistemas de reconhecimento facial conseguiram associar as imagens modificadas às identidades originais.

A experiência foi conduzida pela equipa Global Research and Analysis Team (GReAT) da empresa, recorrendo a uma biblioteca open source de visão computacional e machine learning amplamente utilizada em investigação de reconhecimento facial e sistemas automatizados de análise visual.

Durante os testes, fotografias de retrato foram processadas através de ferramentas de IA generativa para simular diferentes cenários de envelhecimento e rejuvenescimento. Apesar das alterações visuais substanciais, o sistema de reconhecimento facial associou de forma consistente as imagens modificadas por IA às identidades originais em 10 casos de teste independentes.

A experiência incluiu cenários de envelhecimento e rejuvenescimento gerados por IA, comparações entre retratos visualmente divergentes e verificação através de software moderno de reconhecimento facial.

De acordo com as conclusões apresentadas, os sistemas contemporâneos de reconhecimento facial parecem basear-se mais em características geométricas e estruturais profundas do rosto do que em semelhanças visuais superficiais percecionadas pelos humanos. Assim, mesmo quando a aparência facial sofre alterações significativas, os algoritmos conseguem continuar a detetar marcadores biométricos considerados persistentes.

A Kaspersky considera que os resultados evidenciam um cenário de risco duplo. Por um lado, demonstram a resiliência dos sistemas de autenticação facial perante determinadas manipulações visuais geradas por IA. Por outro, levantam questões sobre a utilização indevida destas tecnologias para falsificação de identidade, criação de identidades sintéticas e contorno de processos de verificação baseados na perceção humana.

“Embora a experiência não represente um estudo em larga escala, constitui uma prova de conceito para um potencial ataque possibilitado por IA que a indústria deve considerar; ilustra uma implicação prática crítica: as transformações faciais geradas por IA podem preservar a identidade biométrica mesmo quando a perceção humana interpreta as imagens como indivíduos completamente diferentes. Isto cria desafios para a confiança digital, verificação de identidade e prevenção de fraude numa era de media sintéticos em rápida evolução”, afirmou Maher Yamout, Lead Security Research na Equipa Global de Investigação e Análise da Kaspersky.

A empresa sublinha ainda que a evolução das tecnologias de media sintéticos exige uma maior atenção por parte dos criadores de sistemas de identidade digital, profissionais de cibersegurança e entidades reguladoras, com o objetivo de garantir que as tecnologias biométricas permanecem seguras, fiáveis e resilientes perante ameaças emergentes impulsionadas por Inteligência Artificial.

___

A sua newsletter de sempre, agora ainda mais útil

Com o lançamento da nova marca de informação 24notícias, estamos a mudar a plataforma de newsletters, aproveitando para reforçar a informação que os leitores mais valorizam: a que lhes é útil, ajuda a tomar decisões e a entender o mundo.

Assine a nova newsletter do 24notícias aqui.