Estudo desafia a eficácia das marcas d'água

Em uma era em que a confiança no visual já não é o que era, um estudo recente do Instituto de Segurança Cibernética e Privacidade da Universidade de Waterloo, no Canadá, vem colocar tudo às claras: as marcas d'água não são suficientes para garantir a autenticidade dos conteúdos gerados por inteligência artificial. A pesquisa, liderada pelo pesquisador Andre Kassis, mostrou que a ferramenta chamada UnMarker consegue remover de forma sutil qualquer tipo de marca d'água, sem modificar a aparência original do material, desafiando a ideia de que tais marcadores poderiam funcionar como uma solução definitiva para combater os deepfakes.

À primeira vista, as marcas d'água, utilizadas por gigantes da tecnologia como OpenAI, Meta e Google, parecem ser a resposta para identificar se um conteúdo foi manipulado ou gerado artificialmente. Porém, o estudo demonstra que este método pode ser facilmente burlado. Mesmo sendo codificadas e invisíveis, as marcas d'água ficam vulneráveis a técnicas avançadas de remoção, o que abre caminho para agentes mal-intencionados que desejam manipular vídeos, áudios e imagens para fins fraudulentos.

O que é o UnMarker e como ele funciona?

O diferencial desta pesquisa é o desenvolvimento da ferramenta UnMarker, que representa a primeira solução prática e universal para eliminar marcas d'água em configurações reais, sem que seja necessário conhecer os algoritmos que as criaram ou ter acesso aos seus parâmetros internos. A tecnologia empregada na ferramenta permite que a remoção aconteça sem que haja qualquer indício de alteração, o que coloca em xeque a confiança depositada nos mecanismos atuais de identificação de deepfakes. Segundo os pesquisadores, se os métodos podem ser vencidos por profissionais utilizando a própria ferramenta, é inevitável que pessoas com intenções menos éticas também possam se beneficiar desse conhecimento.

Este fato ressalta o perigo real que os deepfakes representam na atualidade. Com a facilidade de manipulação e a crescente sofisticação dos métodos de remoção de marcas d'água, a detecção de conteúdos falsos se torna cada vez mais desafiadora. Em 2024, por exemplo, o Entrust Cybersecurity Institute registrou a ocorrência de um deepfake a cada cinco minutos, fato que evidencia a velocidade com que essas tecnologias podem ser utilizadas para fins prejudiciais.

Riscos e implicações para a sociedade e para o Brasil

No cenário global, o uso inadequado de tecnologias capazes de eliminar marcas d'água pode ter sérias implicações para a segurança e a credibilidade das informações que circulam na internet. A era digital já demonstrou que a linha entre o real e o falso se tornou tênue, e estudos como o da Universidade de Waterloo apenas acentuam essa realidade. No contexto brasileiro, onde questões de desinformação e fake news ganham cada vez mais destaque, confiar apenas nas marcas d'água para autenticar conteúdos pode ser uma solução insuficiente e arriscada.

Especialistas apontam que, embora a marca d'água seja uma ferramenta aparentemente inovadora, ela não resolve o problema central da manipulação digital. Pesquisas realizadas pela Deloitte indicam que tanto imagens quanto vídeos e áudios manipulados se tornam cada vez mais difíceis de serem identificados, e 59% dos entrevistados afirmam ter dificuldades em diferenciar materiais produzidos por humanos daqueles gerados por inteligência artificial. Em adição, 84% dos profissionais e entusiastas de tecnologia no Brasil defendem que conteúdos provenientes de IA deveriam ser claramente rotulados para evitar confusões e fraudes.

O papel das grandes empresas de tecnologia

Empresas renomadas como OpenAI, Meta e Google têm investido na implementação de marcas d'água codificadas e invisíveis como defesa contra a disseminação de deepfakes. No entanto, a descoberta do UnMarker demonstra que essas medidas podem não ser à prova de falhas. É um toque de ironia: o mesmo sistema que se propunha a ser a solução definitiva acaba se mostrando vulnerável a técnicas que qualquer pessoa com conhecimento razoável na área de TI pode utilizar. Esse cenário destaca a necessidade de revisar e aprimorar os métodos de segurança e autenticação atualmente adotados pelas corporações e governos.

Além disso, o estudo ressalta que a tecnologia não está imune a ataques e que a inovação na forma de criar deepfakes pode, paradoxalmente, facilitar a remoção dos mecanismos de segurança. Em um país como o Brasil, com uma base de usuários cada vez mais conectada e com desafios constantes na regulação de conteúdo digital, a investigação levanta questões importantes sobre a forma como mediamos a veracidade das informações que consumimos diariamente.

Reflexões finais e o futuro das autenticações digitais

Enquanto especialistas debatem o futuro da identificação de conteúdos gerados por inteligência artificial, a pesquisa conduzida pela Universidade de Waterloo nos alerta para os riscos da dependência exclusiva em mecanismos aparentemente inovadores, mas que comprovadamente têm suas fragilidades. A ferramenta UnMarker não só expõe essas fragilidades, como também serve como um alerta para que novas estratégias sejam consideradas na luta contra a desinformação digital.

Se por um lado a inovação tecnológica continua a caminhar a passos largos, trazendo consigo benefícios e desafios, por outro, a confiança depositada em métodos tradicionais de verificação se mostra cada vez mais limitada. O estudo enfatiza que, sem uma revisão profunda dos sistemas de autenticação, a batalha contra os deepfakes pode ser travada sem vitória. Em um ambiente onde a verdade pode ser facilmente distorcida, o avanço tecnológico exige uma constante evolução das medidas de segurança.

Enquanto os legisladores e empresários analisam as implicações das descobertas, a sociedade precisa estar atenta e informada dos riscos inerentes à manipulação digital. O caso das marcas d'água serve como um lembrete de que, no universo dinâmico da tecnologia, a segurança da informação requer esforços contínuos e adaptações constantes para enfrentar desafios cada vez mais sofisticados e inesperados.