Nos últimos anos, a ascensão da inteligência artificial generativa teve um impacto significativo na criação e disseminação de conteúdos digitais, particularmente deepfakes. Segundo a plataforma de verificação de identidade Sumsub, houve um impressionante aumento de quatro vezes na quantidade de deepfakes em todo o mundo entre 2023 e 2024. Para se ter uma noção do problema, em 2024, os deepfakes representaram 7% de todas as fraudes, abrangendo desde impersonificações e apropriações indevidas de contas até campanhas sofisticadas de engenharia social. Diante desse cenário alarmante, a Meta, empresa mãe do Facebook e Instagram, anuncia uma nova ferramenta, cujo objetivo é oferecer uma solução eficaz para lidar com os desafios apresentados pelos conteúdos gerados por inteligência artificial.
Apresentando o Meta Video Seal: um novo recurso no combate aos deepfakes
Em um anúncio feito nesta quinta-feira, Meta revelou seu mais recente esforço na luta contra a desinformação digital: a ferramenta chamada Meta Video Seal, que permite a aplicação de marcas d’água imperceptíveis em clipes de vídeo gerados por inteligência artificial. Esta ferramenta é de código aberto e foi projetada para ser integrada a softwares já existentes, possibilitando um uso mais amplo no campo da criação de conteúdos digitais. Além do Meta Video Seal, a Meta também relançou ferramentas de marca d’água pré-existentes, como Watermark Anything e Audio Seal, buscando aprimorar a proteção da originalidade dos vídeos e combater a proliferação dos deepfakes.
Pierre Fernandez, cientista de pesquisa em IA na Meta, compartilhou em uma entrevista com o TechCrunch que: “Desenvolvemos o Video Seal para proporcionar uma solução de marca d’água em vídeo mais eficaz, especialmente para a detecção de vídeos gerados por IA e proteção da originalidade.” O Meta Video Seal não é a primeira tecnologia de sua categoria, pois a DeepMind possui o SynthID, que também pode marcar vídeos, e a Microsoft desenvolveu suas próprias metodologias nesse sentido. No entanto, Fernandez argumenta que muitas das abordagens existentes não são suficientemente robustas.
Superando desafios com inovação técnica
Apesar da existência de outras ferramentas de marca d’água no mercado, Fernandez destaca que essas opções muitas vezes falham em pontos cruciais. Ele afirma que “embora existam outras ferramentas de marca d’água, elas não oferecem robustez suficiente contra a compressão de vídeos, algo que é muito prevalente na hora de compartilhar conteúdos em plataformas sociais; não eram eficientes para rodar em larga escala; não eram abertas ou reprodutíveis; ou foram derivadas de marca d’água para imagens, o que é subótimo para vídeos.” Diante disso, o Video Seal se destaca ao adicionar não apenas uma marca d’água, mas também uma mensagem oculta que pode ser revelada posteriormente, ajudando a determinar a origem do vídeo. De acordo com a Meta, esta ferramenta é resistente a edições comuns, como desfoque e recorte, bem como a algoritmos populares de compressão.
No entanto, Fernandez reconhece que o Video Seal tem limitações, principalmente no que diz respeito ao equilíbrio entre a visibilidade das marcas d’água e sua resistência à manipulação. Compressões severas e edições significativas podem alterar as marcas d’água ou tornar sua recuperação impossível, ressalta. Isso implica que os desenvolvedores e a indústria podem não ter um incentivo suficiente para adotar a nova tecnologia, especialmente aqueles que já utilizam soluções proprietárias. Para abordar essa questão, Meta está lançando um ranking público, chamado Meta Omni Seal Bench, dedicado à comparação do desempenho de vários métodos de marca d’água, além de organizar um workshop sobre o tema neste ano durante a ICLR, uma das principais conferências de IA.
Um passo importante na luta contra a desinformação digital
Fernandez finaliza com otimismo, expressando a esperança de que cada vez mais pesquisadores e desenvolvedores de IA integrem algum tipo de marca d’água em seus trabalhos. “Queremos colaborar com a indústria e a comunidade acadêmica para avançar mais rápido nesse campo.” Com isso, a Meta não apenas dá um passo significativo na luta contra a desinformação, mas também reforça seu compromisso em promover um ambiente digital mais seguro e confiável. A proteção da originalidade e da autenticidade dos conteúdos continuará sendo um desafio, mas com inovações como o Meta Video Seal, há a esperança de que a tecnologia possa superar esse desafio, permitindo que os criadores de conteúdo e a audiência possam navegar por um mundo digital mais seguro.
Portanto, a nova ferramenta Meta Video Seal representa não apenas uma inovação tecnológica, mas também um apelo à responsabilidade coletiva na criação e compartilhamento de conteúdos digitais. É um convite a todos os envolvidos na produção de vídeos a se unirem na luta contra a desinformação, trazendo à tona a importância da originalidade em um mundo onde a linha entre o real e o falso torna-se cada vez mais tênue.
