A OpenAI, reconhecida por suas inovações em inteligência artificial, apresentou sua mais recente ferramenta de geração de vídeos, denominada Sora, na última segunda-feira. Contudo, a empresa optou por não liberar um recurso essenciais para a maioria dos usuários, a fim de realizar testes adicionais e avaliar sua segurança. O recurso em questão é a capacidade de gerar vídeos utilizando fotos ou gravações de pessoas reais como referência. Essa decisão foi informada em um comunicado no blog da OpenAI, onde a empresa referiu que um “subconjunto” de usuários do Sora terá acesso liberado a essa funcionalidade, mas a distribuição ampla só ocorrerá após um aprimoramento da abordagem de segurança da ferramenta.
De acordo com a OpenAI, “a habilidade de gerar um vídeo com base em uma foto ou vídeo previamente carregado de uma pessoa real como ‘semente’ é um vetor de potencial uso indevido que estamos abordando de maneira incremental, para aprender a partir dos padrões iniciais de uso”. Esse cuidado se faz necessário em um cenário onde a geração de vídeos é uma poderosa ferramenta criativa, mas também repleta de controvérsias, como evidenciado pelas crescentes preocupações sobre deepfakes e a desinformação. Segundo dados da Sumsub, um serviço de verificação de identidade, as fraudes envolvendo deepfakes aumentaram mais de dez vezes entre 2022 e 2023, levantando um alarme no setor sobre a necessidade de medidas rigorosas de controle.
A OpenAI adota uma abordagem proativa para impedir o uso indevido da tecnologia. Para isso, Sora possui um filtro projetado para detectar se um vídeo gerado representa alguém menor de 18 anos. Quando isso ocorre, a OpenAI aplica um “limite mais rigoroso” para moderação de conteúdos que envolvam temas como sexualidade, violência ou automutilação. Esta análise cautelosa reforça o compromisso da empresa com a segurança e a moralidade no uso das novas tecnologias, em um momento onde questões éticas são cada vez mais discutidas no ambiente digital.
Além disso, todos os vídeos gerados pelo Sora contêm metadados que mostram sua proveniência, especificamente metadados que seguem o padrão técnico C2PA. Embora esses metadados possam ser removidos, a OpenAI defende que essa é uma maneira eficaz para que plataformas que suportem o C2PA possam detectar rapidamente a origem de um vídeo gerado pelo Sora. Dessa forma, a empresa se posiciona na vanguarda da luta contra desinformação e no estímulo à transparência na utilização de suas ferramentas.
Outra estratégia adotada pela OpenAI para evitar reclamações de direitos autorais envolve o uso de reescritas de prompts. Elas têm como objetivo impedir que o Sora gere vídeos no estilo de criadores que ainda estão vivos. “Adicionamos reescritas de prompts que são acionadas quando um usuário tenta gerar um vídeo no estilo de um artista vivo”, afirma a empresa. Essa abordagem conservadora foi uma escolha deliberada, uma vez que a OpenAI busca aprender mais sobre como o Sora será utilizado pela comunidade criativa. A capacidade de gerar conteúdo inspirado em outros sempre foi uma prática comum na arte, mas compreende-se que muitos criadores podem ter preocupações legítimas quanto ao uso não autorizado de seu estilo.
É importante notar que diversos artistas processaram empresas de IA, incluindo a OpenAI, sob a alegação de que estas treinaram suas ferramentas em obras sem a devida autorização, com o intuito de criar ferramentas que replicam o estilo único desses criadores. Por outro lado, as empresas se defendem afirmando que a doutrina de uso justo as protege contra alegações de violação de direitos autorais, além de argumentarem que os modelos de IA não reproduzem conteúdo de forma direta.
Por fim, o influenciador de tecnologia Marcus Brownlee teve acesso antecipado às funcionalidades do Sora. Ele destacou que a ferramenta não só pode criar vídeos a partir de um prompt de texto ou imagem, mas também editar vídeos existentes por meio de uma ferramenta de remixagem. Os usuários podem ainda explorar uma interface de Storyboard para criar sequências de vídeos e uma ferramenta Blend que combina dois vídeos em um novo que preserva elementos de ambos. A ferramenta está disponível para assinantes dos planos ChatGPT Pro e Plus da OpenAI, porém somente em determinados países.
Diante das inovações trazidas pelo Sora, é essencial que todos os usuários considerem as implicações éticas e criativas da geração de conteúdo por inteligência artificial, enquanto a OpenAI continua a explorar novas maneiras de equilibrar inovação e responsabilidade social. Com a crescente popularidade das tecnologias de geração de vídeos, a responsabilidade pela utilização consciente e ética desses recursos é um tema que requer atenção contínua de todos os envolvidos, desde os desenvolvedores até os criadores de conteúdo.
