Inovações no processo de edição de imagem com a tecnologia generativa
A Midjourney, uma das plataformas mais reconhecidas no domínio da inteligência artificial generativa, programou o lançamento de uma ferramenta web atualizada que permitirá aos usuários editar qualquer imagem carregada da web utilizando sua avançada tecnologia de IA. De acordo com o CEO da empresa, David Holtz, a nova ferramenta será disponibilizada “no início da próxima semana” e oferecerá funcionalidades que garantem a retexturização de objetos em imagens, permitindo que os usuários “re-pintem” as cores e detalhes de acordo com as legendas fornecidas. O acesso a ferramentas de edição de imagens baseadas em IA tem se tornado um tema de grande relevância, especialmente quando se considera o impacto que essas inovações podem ter em relação à veracidade das informações disseminadas online.
Desafios e preocupações com a implementação de tecnologias de edição de imagem
No cenário atual, plataformas como Meta enfrentam dificuldades em etiquetar imagens editadas com ferramentas de IA em comparação àquelas geradas do zero a partir de modelos de IA. De maneira similar, o Google lançou recursos poderosos de IA que não indicam visualmente que as imagens foram modificadas por essa tecnologia. Em um passo importante, no ano passado, a Midjourney se comprometeu a adotar a propriedade Digital Source Type do IPTC, um padrão técnico que embute metadados em imagens, indicando que elas foram geradas por IA. No entanto, a empresa se destaca como uma das poucas grandes plataformas de IA que ainda não adotou a tecnologia de metadados C2PA, que rastreia a proveniência total de uma imagem, incluindo os equipamentos e softwares utilizados para a sua criação. Essa falta de rastreabilidade pode complicar ainda mais a percepção e a avaliação da autenticidade das imagens na era digital.
Em uma publicação feita no servidor oficial do Discord da Midjourney, Holtz afirmou que a nova ferramenta de edição de imagens será inicialmente restrita a um “subconjunto da comunidade atual”, que contará com uma moderação humana reforçada, além de “novos moderadores de IA mais avançados” para tentar coibir abusos no uso da ferramenta. “Honestamente, não temos certeza de como restringir precisamente a implementação desse recurso”, disse Holtz. Em um movimento de transparência e engajamento da comunidade, a Midjourney está solicitando feedback dos usuários através de uma pesquisa que ajudará a determinar quais usuários terão acesso prioritário ao novo recurso. Essa abordagem cuidadosa é essencial, uma vez que a liberação de ferramentas de edição sem os devidos mecanismos de segurança pode facilitar a infração de direitos autorais em larga escala ou promover a disseminação de deepfakes enganosos.
A crescente preocupação com deepfakes e legislações em desenvolvimento
Deepfakes, uma forma de manipulação digital que utiliza inteligência artificial para criar imagens e vídeos falsos de forma cada vez mais convincente, estão se espalhando rapidamente pelas redes sociais, o que dificulta a distinção entre a verdade e a desinformação. Recentemente, imagens geradas artificialmente de destruição e sofrimento humano inundaram a web após o furacão Helene. Dados da Clarity, uma empresa de detecção de deepfakes, revelaram que houve um aumento de 900% na criação e publicação de deepfakes neste ano em comparação ao mesmo período do ano anterior. Essa estatística alarmante reflete uma preocupação crescente da sociedade. Uma pesquisa recente realizada pela YouGov revelou que 85% dos americanos expressaram preocupação com a disseminação de deepfakes enganosos na internet, deixando claro que a desinformação digital já não é apenas uma questão técnica, mas um sério problema social.
Na ausência de uma legislação federal nos Estados Unidos que criminalize os deepfakes, mais de 10 estados implementaram estatutos contra a exploração de IA para impersonificação. A legislação da Califórnia, que atualmente enfrenta entraves, se propõe a ser a primeira a permitir que juízes ordenem a remoção de deepfakes, podendo até impô-los penalidades monetárias aos responsáveis pela publicação. É importante notar que a Midjourney não tem sido exatamente um modelo de implantação responsável de IA. A empresa está sendo processada por supostamente usar conteúdo com direitos autorais para treinar seus modelos generativos de IA. Contudo, a plataforma tem tomado medidas para limitar a propagação de deepfakes nos últimos meses, implementando filtros específicos para figuras políticas em meio à proximidade das eleições presidenciais nos EUA.
Implicações futuras para a ética em inteligência artificial
À medida que a Midjourney avança com suas inovações em edição de imagens, a abordagem da empresa ao desenvolvimento e à moderação de ferramentas de IA terá implicações significativas para o futuro da ética em inteligência artificial. As decisões em relação ao acesso à tecnologia, a implementação de medidas de segurança e a disposição para colaborar com a regulação e a prática responsável são vitais para garantir que a IA seja utilizada de forma ética e responsável. Assim, enquanto a tecnologia continua a evoluir, será fundamental que a indústria de IA, incluindo plataformas como Midjourney, priorize a transparência, a responsabilidade e a proteção dos direitos dos usuários e da sociedade em geral frente às incertezas que acompanham a era digital.
