Sejam bem-vindos, leitores, a mais uma edição do boletim regular sobre inteligência artificial do TechCrunch. Se você deseja receber atualizações semanais sobre as últimas inovações tecnológicas, não deixe de se inscrever em nosso serviço. O que se segue, contudo, traz uma reflexão inquietante sobre as implicações das tecnologias de deepfake, especialmente em um contexto eleitoral.
Recentemente, a criação de um deepfake convincente da vice-presidente Kamala Harris revelou não apenas a facilidade com que esse tipo de conteúdo pode ser gerado, mas também os riscos associados a essa nova onda de desinformação. O processo de geração de um áudio da vice-presidente utilizando tecnologias de IA custou apenas cinco dólares e levou menos de dois minutos para ser concluído, o que demonstra como ferramentas de geração de voz estão se tornando acessíveis e potentes. Em um momento em que as informações circulam instantaneamente nas redes sociais, essa simplicidade deve acender um alerta sobre o potencial de manipulação de narrativas.
A criação do deepfake não era o intenção inicial de quem o fez. O autor estava experimentando com o Cartesia’s Voice Changer, um modelo projetado para transformar a voz de alguém em uma voz diferente, mantendo a prosódia original. Curioso sobre a possibilidade de transformar sua própria voz na de Kamala Harris, o autor decidiu pagar US$5 para desbloquear a funcionalidade de clonagem de voz da ferramenta, utilizando gravações de discursos recentes da vice-presidente como referência. O resultado foi impressionante e, sem dúvida, preocupante.
Não se pode ignorar que a Cartesia, responsável pela tecnologia, não tinha a intenção de facilitar a criação de deepfakes prejudiciais. Para ativar a clonagem de voz, eles exigem que os usuários aceitem um compromisso ético de não criar conteúdos nocivos ou ilegais, embora isso dependa essencialmente da boa fé. Na ausência de salvaguardas concretas, fica evidente que qualquer pessoa pode gerar deepfakes com propósitos prejudiciais sem enfrentar penalidades.
Diante dessa situação, surge a pergunta: qual é a solução? Será que existe uma maneira de abordar essa questão? Alguns especialistas discutidos na conferência Disrupt do TechCrunch sugeriram a implementação de verificações de voz, prática já adotada por outras plataformas. No entanto, mesmo que medidas sejam tomadas, é provável que novas ferramentas de clonagem de voz surjam, desafiando aqueles esforços. Com a desinformação espalhando-se a uma taxa alarmante, como evidenciado por uma rede de bots mirando nas eleições federais dos EUA, a situação somente se torna mais complicada.
Um estudo revelador apontou que o volume de deepfakes gerados por IA aumentou em 900% entre 2019 e 2020, de acordo com dados do Fórum Econômico Mundial. Nesse sentido, a legislação que aborda a criação e disseminação de deepfakes ainda é escassa, o que resulta em um panorama onde a detecção de deepfakes possui um caráter de corrida armamentista, onde ferramentas malignas podem ser desenvolvidas antes que os contrapesos necessários sejam estabelecidos. É indiscutível que estamos enfrentando um desafio complexo em que a linha entre o real e o falso se torna cada vez mais enevoada nas redes sociais.
Um dos caminhos para lidar com essa questão é cultivar um ceticismo intenso em relação ao que encontramos online, especialmente em relação ao conteúdo viral. A distinção entre verdade e ficção se tornou mais desafiadora, mas ainda mantemos controle sobre o que escolhemos compartilhar. Essa é uma parte essencial na batalha contra a desinformação. Por isso, é fundamental que os usuários permaneçam alertas e criteriosos em suas interações nas redes sociais.
Além desta discussão alarmante sobre deepfakes, o boletim traz outras atualizações significativas no setor de tecnologia. O ChatGPT agora conta com uma nova integração de busca, que oferece recursos interessantes, embora apresente algumas inconsistências. Por outro lado, a Amazon reatou seu programa de entrega por drones na cidade de Phoenix, Arizona, encaminhando-se para um novo capítulo em seu objetivo de inovação logística. Adicionalmente, a contratação da ex-líder de AR da Meta pela OpenAI reforça a competitividade entre as gigantes da tecnologia, enquanto o CEO da OpenAI destaca desafios pela falta de capacidade computacional.
O fenômeno das deepfakes e sua relação intrínseca com a difusão da desinformação em um mundo conectado tornam-se um tema cada vez mais relevante. As ferramentas disponíveis são poderosas e, sem a implementação de sistemas que possam garantir a veracidade do conteúdo, o espaço digital corre o risco de se tornar um terreno fértil para a desinformação. Portanto, é imprescindível que a responsabilidade pelo que é consumido online e pela informação compartilhada recaia sobre cada um de nós, refletindo assim a necessidade urgente de uma abordagem consciente e crítica no ambiente digital.
