A inteligência artificial generativa tem se mostrado uma ferramenta poderosa, porém suscetível a usos indevidos. Recentemente, um relatório da Recorded Future, uma empresa de inteligência em ameaças baseada em Massachusetts, trouxe à luz o uso potencial da tecnologia de geração de voz da ElevenLabs em uma operação de influência ligada à Rússia, com o objetivo de minar o apoio europeu à Ucrânia. Este episódio levanta questões sérias sobre como ferramentas criadas para facilitar a comunicação podem ser distorcidas para propagar desinformação.
Contexto da campanha de desinformação russa
A campanha em questão, chamada de “Operação Undercut”, vinha sendo planejada para desacreditar líderes ucranianos e questionar a eficácia da ajuda militar ocidental. Entre os vídeos manipulados que circularam nas redes sociais, um afirmava que “até os bloqueadores não conseguem salvar os tanques Abrams americanos”, sugerindo que o envio de equipamentos militares avançados à Ucrânia seria inútil. Tais mensagens visavam atingir diretamente a opinião pública europeia, que está em crescente debate sobre a continuidade do apoio à Ucrânia.
O uso da tecnologia de voz gerada por IA
O relatório da Recorded Future conclui que os criadores de conteúdo “muito provavelmente” utilizaram a tecnologia de geração de voz da ElevenLabs para adicionar uma camada de legitimidade aos seus vídeos enganosos. Para validar essa afirmação, os pesquisadores submeteram os clipes à ferramenta própria de classificação de fala da ElevenLabs, que é capaz de detectar se um trecho de áudio foi criado usando sua tecnologia. O resultado foi positivo, confirmando o envolvimento da ElevenLabs.
Observou-se uma diferença marcante entre os vídeos que utilizavam voz gerada por IA e aqueles que apresentavam locuções humanas. Enquanto as vozes de IA falavam em várias línguas europeias sem sotaques perceptíveis, as gravações com vozes humanas frequentemente apresentavam um “sotaque russo” claro, revelando a falta de cuidado por parte dos criadores daquela campanha.
Repercussões políticas e o papel da ElevenLabs
A Recorded Future identificou que a atividade estava ligada à Social Design Agency, uma organização baseada na Rússia que foi sancionada pelo governo dos EUA em março deste ano por operar uma rede de mais de 60 sites que se passavam por organizações noticiosas genuínas na Europa. Essa rede utilizava contas de redes sociais falsificadas para amplificar o conteúdo enganoso.
Não obstante, o relatório concluiu que o impacto global da campanha na opinião pública europeia foi mínimo, o que indica que a desinformação, embora ferramenta poderosa, pode não ter o efeito desejado em todos os contextos. A capacitação de redes de desinformação através de novas tecnologias não é uma novidade, mas a utilização específica de produtos da ElevenLabs para tais fins levanta uma série de questões éticas e morais.
Desafios e medidas de segurança da ElevenLabs
Esta não é a primeira vez que a ElevenLabs enfrenta acusações de uso indevido de sua tecnologia. Em um incidente anterior, um robocall que imitava o presidente Joe Biden foi identificado como uma tentativa de desviar votos em uma eleição primária de janeiro de 2024. Em resposta a esses eventos, a ElevenLabs declarou que implementou novas funcionalidades de segurança, como o bloqueio automático de vozes de políticos, para se proteger contra usos mal-intencionados.
A empresa, fundada em 2022, experimentou um crescimento explosivo, aumentando sua receita anual recorrente de 25 milhões para 80 milhões de dólares em menos de um ano, o que pode resultar em avaliações de mercado próximas a 3 bilhões de dólares. Seus investidores incluem grandes nomes do setor, como Andreessen Horowitz e Nat Friedman, ex-CEO do Github.
Conclusão: o caminho a seguir diante da desinformação
À medida que a tecnologia avança, a responsabilidade sobre o uso ético desses recursos se torna cada vez mais crucial. Enquanto a ElevenLabs busca mitigar os riscos associados à sua tecnologia, a experiência demostrada pelo “Operation Undercut” serve como um alerta para o setor de tecnologia e para a sociedade em geral. A luta contra a desinformação continua, e a vigilância precisa ser constante para assegurar que a inovação não sirva como combustível para a manipulação e o engano.
Leia mais sobre o reporte da Recorded Future
