A crescente popularização das tecnologias de inteligência artificial tem trazido à tona diversos debates sobre suas aplicações e implicações éticas. Um dos casos mais emblemáticos é o do Stable Diffusion, um sistema de IA de texto-para-imagem desenvolvido pela startup Stability AI, que, quando lançado como código aberto no início deste ano, rapidamente passou a ser utilizado para a criação de conteúdo pornográfico. Comunidades nas plataformas Reddit e 4chan começaram a explorar as capacidades desse sistema para gerar imagens que variam de representações realistas a criações em estilo anime, predominantemente de personagens femininas. Além disso, foram geradas imagens não consensuais de nudez de celebridades, levantando preocupações sobre privacidade e consentimento.
Apesar das iniciativas do Reddit para desativar vários subreddits dedicados a esse tipo de conteúdo, e de comunidades como NewGrounds terem banido completamente obras de arte geradas por IA, novos fóruns surgiram para atender essa demanda crescente. Dentre eles, destaca-se o Unstable Diffusion, uma plataforma cujo foco é desenvolver sistemas de IA orientados para a criação de pornografia de alta qualidade. Com um fluxo de financiamento significativo através do Patreon, superando US$ 2.500 por mês, a comunidade atraiu centenas de apoiadores, proporcionando recursos para o desenvolvimento contínuo do projeto.
Com um crescimento acelerado, a equipe do Unstable Diffusion rapidamente se expandiu para mais de 13 membros, além de consultores e moderadores comunitários, conforme relatado por Arman Chaudhry, um dos administradores da plataforma. Em suas interações, Chaudhry destacou a intenção do grupo de inovar em usabilidade e experiência do usuário para criar ferramentas que beneficiem não apenas artistas profissionais, mas também empresas que buscam utilizar a IA de maneira produtiva e ética. No entanto, essa visão otimista contrasta com as preocupações levantadas por especialistas em ética da IA, que alertam sobre as consequências negativas da criação de pornografia pela IA, especialmente para grupos marginalizados, como artistas e atores do setor adulto que dependem de seu trabalho dentro da indústria.
Entre os riscos identificados pelos críticos, destaca-se a possibilidade de exacerbar expectativas irrazoáveis em relação aos corpos e comportamentos das mulheres, além de potencializar violação de direitos autorais e privacidade. Ravit Dotan, vice-presidente de IA responsável na Mission Control, expressou sua preocupação com o impacto desigual da pornografia gerada por IA sobre as mulheres, exemplificando que aplicativos anteriores, que podiam “despir” pessoas, conseguiam fazê-lo apenas em relação a mulheres. Ao mesmo tempo, o Unstable Diffusion começou de forma rudimentar, originando-se em um subreddit antes de se deslocar para o Discord, onde hoje conta com aproximadamente 50.000 membros.
A comunidade se apresenta como um espaço dedicado ao apoio para indivíduos interessados na criação de conteúdo NSFW (Not Safe For Work), promovendo um ambiente mais controlado em comparação aos fóruns existentes, como o 4chan. Inicialmente, o foco estava em compartilhar imagens geradas por IA e métodos para contornar filtros de conteúdo em plataformas de geração de imagens, no entanto, rapidamente evoluiu para desenvolver sistemas de IA personalizados para geração de pornografia, a partir de ferramentas de código aberto. A interação dos usuários, portanto, busca não apenas criar e consumir gratuitamente, mas também participar de uma experiência coletiva que propicie evoluções nas práticas criativas na geração de conteúdo adulto.
Recentemente, os administradores do Unstable Diffusion lançaram um bot no Discord que utiliza o Stable Diffusion vanilla para permitir que usuários gerem pornografia a partir de textos descritivos. No entanto, os resultados iniciais frequentemente apresentavam figuras distorcidas, refletindo a gama limitada de dados de treinamento que o sistema teve acesso. A maioria do conjunto de dados do Stable Diffusion contém apenas 2,9% de material NSFW, dificultando a produção de conteúdos de qualidade por parte do modelo. Para contornar essa limitação, o Unstable Diffusion fez um apelo aos membros da comunidade para contribuir com a criação de conjuntos de dados mais diversos e voltados para o conteúdo pornográfico, buscando, assim, uma melhora contínua na qualidade das imagens geradas.
Nos dias atuais, a plataforma abriga uma vasta gama de estilos artísticos e preferências sexuais, permitindo aos usuários explorarem diversas facetas de suas fantasias através da IA. Eles podem gerar arte que se encaixe em temas específicos e, em contrapartida, compartilhar seus melhores resultados em um “starboard” da comunidade. Até o momento, o Unstable Diffusion afirma ter gerado mais de 4.375.000 imagens, sendo que a comunidade promove competições regulares para criar novas imagens que, por sua vez, também serão utilizadas para aprimorar os modelos em uso. A busca por um espaço ético dentro da geração de pornografia por IA, que exclua conteúdos como pornografia infantil e deepfakes, também está em pauta com a regulamentação interna proposta para a moderação de conteúdos presentes no servidor do Discord.
Entretanto, a enorme escalabilidade e a popularidade do Unstable Diffusion suscitam preocupações sobre como o controle de conteúdo poderá ser gerido à medida que mais usuários e desenvolvimentos do sistema se expandam para fora do servidor original. Profissionais da ética da IA, como Abhishek Gupta, apontam que comunidades como o Unstable Diffusion podem acumular grande quantidade de conteúdo problemático, complicando a tarefa já extenuante das equipes de moderação que precisam lidar com conteúdos ofensivos. Além disso, a discussão sobre a arte que alimenta esses modelos de IA levanta um ponto delicado em relação à compensação e reconhecimento dos artistas cujas obras são utilizadas para treinar algoritmos sem o devido consentimento.
O potencial de impacto negativo sobre artistas e criadores independentes começa a ser mais palpável à medida que a demanda por pornografia gerada por IA cresce, e a dúvida sobre o que os futuros desenvolvimentos significarão para os artistas-consumidores de hoje persiste. Chaudhry e sua equipe no Unstable Diffusion reconhecem a necessidade de refletir sobre a forma como suas ações poderiam servir melhor à comunidade artística, embora detalhes sobre as etapas concretas para assegurar essa equidade ainda sejam escassos. O cenário que se apresenta é de uma indústria em transformação, na qual a inteligência artificial não apenas muda a forma como consumimos conteúdos, mas também amplia o debate sobre a viabilidade e a ética da automação em âmbitos que tradicionalmente requeriam a criatividade humana.
