Na próxima semana, os usuários do aplicativo Google Photos irão perceber uma mudança significativa em como as edições de fotos com recursos de inteligência artificial são apresentadas. Essa atualização surge em um momento em que a discussão sobre a transparência em relação ao conteúdo gerado ou manipulado por tecnologia se torna cada vez mais relevante na sociedade moderna. A nova funcionalidade adicionará uma comunicação clara sempre que uma foto for editada utilizando ferramentas que incluem o Magic Editor, Magic Eraser e Zoom Enhance. Ao clicar em uma foto dentro do aplicativo, os usuários encontrarão uma nova mensagem na parte inferior da seção “Detalhes”, indicando que a imagem foi “Editada com Google AI”. Este movimento é descrito pela empresa como uma tentativa de “aumentar a transparência”, No entanto, essa ação levanta questões sobre a real eficácia e a visibilidade das edições realizadas através da inteligência artificial.
A Google anunciou essa nova disposição em um post em seu blog na quinta-feira, um pouco mais de dois meses após o lançamento de seus novos smartphones Pixel 9, que são repletos dessas avançadas funcionalidades de edição de fotos. A decisão de implementar essas divulgações parece ser uma resposta ao feedback negativo que a Google recebeu pela ampla distribuição de suas ferramentas de IA sem marcas d’água visuais que possam ser imediatamente reconhecidas pelo público. Até o momento, não há marcas d’água visíveis na moldura das imagens que indiquem que uma foto foi gerada por IA. Assim, um usuário que avistar uma foto editada pelo sistema de IA do Google em uma rede social, em uma mensagem de texto ou mesmo ao rolar sua galeria, não conseguirá identificar imediatamente que se trata de um conteúdo artificial.
Em adição a isso, a Google também implementou uma nova estrutura de informações que indicará quando as fotos passaram por edições de novos recursos como Best Take e Add Me, que, embora não utilizem IA generativa, também terão suas edições notificadas na seção de metadados, mas não sob a aba de Detalhes. Esses recursos editam múltiplas fotos juntas para criar uma imagem única e limpa. Apesar dessas melhorias, as novas etiquetas podem não resolver a principal preocupação do público em relação às ferramentas de edição de fotos com inteligência artificial, que é a ausência de marcas d’água visuais que possam ser reconhecidas rapidamente. As notificações no metadados já indicam que a foto foi editada por IA, mas o desafio reside no fato de que a maioria das pessoas não verifica esses detalhes nas fotos que encontram na internet; elas simplesmente olham e deslizam rapidamente para a próxima imagem.
É importante considerar que marcas d’água visuais na moldura de uma foto editada por inteligência artificial não representam uma solução perfeita para a questão da transparência. Com facilidade, um usuário pode recortar ou editar essas marcas d’água para ocultar a origem da imagem, retornando assim ao problema inicial. A Google foi contatada para esclarecer se há planos em andamento para facilitar a identificação imediata de fotos editadas por sua inteligência artificial, mas até o momento não houve um retorno. A proliferação das ferramentas de imagem da Google pode aumentar o volume de conteúdo sintético visualizado online, dificultando a distinção entre o que é real e o que é falso.
A abordagem que a Google adotou, utilizando marcas d’água em metadados, depende em grande parte das plataformas para comunicar aos usuários que eles estão visualizando conteúdo gerado por IA. No entanto, é interessante perceber que META já tem implementado essa prática em suas plataformas, como Facebook e Instagram. A Google também informa que pretende sinalizar imagens de IA em sua busca ainda este ano, mas outras plataformas têm avançado mais lentamente nessa adaptação. No futuro, à medida que a tecnologia evolui, a necessidade de clareza e ética no uso de inteligência artificial na edição de imagens provavelmente se tornará ainda mais crítica.
Essas mudanças não apenas refletem uma tentativa de se colocar à frente em um mercado competitivo, mas também ressaltam a responsabilidade que empresas de tecnologia têm perante os usuários, buscando um equilíbrio entre inovação e transparência. Portanto, enquanto a Google busca integrar essas novas informações e aprimorar a experiência do usuário, fica no ar a chamada para um diálogo contínuo sobre a manipulação da realidade através da tecnologia e como podemos, enquanto sociedade, nos adaptar a essas novas realidades virtuais.
