A crescente presença da inteligência artificial (IA) em diversos setores tecnológicos tem gerado discussões acaloradas sobre a necessidade de uma abordagem responsável e ética no desenvolvimento dessas tecnologias. Recentemente, durante o evento TechCrunch Disrupt 2024, três defensores da segurança em IA reforçaram a urgência de os fundadores de startups adotarem uma postura cautelosa e reflexiva em relação ao lançamento de novos produtos. O alerta de que “mover-se com cautela e estruturar bem as coisas” é crucial ganhou destaque, especialmente em um cenário onde a pressa pode resultar em questões éticas significativas e até impactos colaterais irreversíveis.
Sarah Myers West, co-diretora executiva do AI Now Institute, compartilhou suas preocupações sobre a tendência atual de priorizar o lançamento de produtos em detrimento de considerações éticas. “Estamos em um ponto de inflexão onde muitos recursos estão sendo direcionados para este espaço,” observou. “Estou realmente preocupada que, neste momento, haja uma pressa em levar produtos ao mundo, sem pensar na questão legada do tipo de mundo em que realmente queremos viver e de que maneiras a tecnologia produzida pode estar servindo a esse mundo ou, inversamente, prejudicando-o.” Esse apelo à reflexão ética é particularmente pertinente em meio a uma série de incidentes recentes envolvendo tecnologias de IA, que levantaram questões sérias sobre o impacto dessas inovações na vida das pessoas.
Aqui, vale a pena lembrar um caso triste que chamou a atenção de todos: a família de uma criança que cometeu suicídio processou a empresa de chatbot Character.AI, alegando que o produto teve um papel significativo na tragédia. Myers West foi enfática ao afirmar que “essa história demonstra os profundos riscos do rápido lançamento que temos observado com as tecnologias baseadas em IA.” O evento destacou problemas recorrentes de moderação de conteúdo e abuso online, que continuam sendo desafios persistentes para desenvolvedores e plataformas. Entretanto, é fundamental considerar que esses não são os únicos riscos relacionados ao uso da IA, pois as implicações vão desde a propagação de desinformação até a violação de direitos autorais.
Em um tom igualmente preocupante, Jingna Zhang, fundadora da plataforma social Cara, enfatizou a enorme responsabilidade que acompanha o desenvolvimento de produtos de IA. “Estamos construindo algo que possui um poder significativo e a habilidade de impactar profundamente a vida das pessoas,” destacou. Para Zhang, a maneira como a plataforma Character.AI envolve emocionalmente os usuários ressalta a urgente necessidade de estabelecer regras claras sobre como os produtos devem ser desenvolvidos. Sua plataforma, Cara, cresceu rapidamente após a Meta anunciar que poderia usar publicações públicas de usuários para treinar sua IA, o que representou um duro golpe para muitos artistas, incluindo Zhang. “O direito autoral é o que nos protege e nos permite ganhar a vida,” disse, questionando a lógica de que obras disponíveis online são automaticamente livres para uso.
Essa tensão entre a necessidade de os artistas promoverem seu trabalho e o potencial de suas criações serem utilizadas para treinar modelos de IA que possam ameaçar suas carreiras é uma questão central que requer um debate mais profundo. “Quando a IA generativa começou a se tornar muito mais mainstream, o que estamos vendo é que isso não funciona com o que estamos acostumados, que foi estabelecido em lei. E se eles quisessem usar nosso trabalho, deveriam licenciar isso,” acrescentou Zhang, incidindo sobre a proteção que a legislação deve proporcionar aos criadores.
Além disso, o impacto da IA se estende para outros domínios inovadores. Um exemplo notável é a ElevenLabs, uma empresa de clonagem de voz de IA que, com um valor superior a um bilhão de dólares, entra na esfera de risco relacionada à manipulação de vozes e uso indevido de tecnologia para criar deepfakes não consensuais. Aleksandra Pedraszewska, líder de segurança da ElevenLabs, explicou que é sua responsabilidade assegurar que a tecnologia sofisticada da empresa não seja utilizada de maneiras que comprometam a segurança e o bem-estar dos usuários. “Acredito que a avaliação crítica de modelos e a compreensão de comportamentos indesejáveis e consequências não-intencionais de qualquer novo lançamento de uma empresa de IA geradora é mais uma vez uma prioridade,” disse. Com 33 milhões de usuários atualmente, qualquer mudança nos produtos da ElevenLabs pode ter um impacto massivo na comunidade, ressaltando a importância de uma abordagem ética e responsável ao desenvolvimento de tecnologia de IA.
A discussão sobre segurança em IA e a necessidade de regulamentação adequada é um tema central no debate atual. “Não podemos simplesmente operar entre duas extremidades, uma sendo totalmente anti-IAs e anti-Gerações de IA, e a outra, efetivamente, tentando persuadir a ausência de regulamentação no espaço. Precisamos encontrar um meio-termo quando se trata de regulamentação,” afirmou Pedraszewska, destacando a importância de equilibrar inovação tecnológica com a responsabilidade social. A mensagem clara é que, à medida que continuamos a explorar as vastas possibilidades que a IA oferece, a responsabilidade e a ética não devem ser deixadas de lado na busca pelo progresso. Afinal, o tipo de futuro que criamos depende das decisões que tomamos hoje.
