No último dia 28 de setembro, o procurador-geral do Texas, Ken Paxton, anunciou o início de uma investigação abrangente que visa a plataforma de inteligência artificial Character.AI e mais 14 empresas de tecnologia, em razão de preocupações relacionadas à privacidade e segurança de crianças. Este movimento ocorre em um contexto crescente de uso de ferramentas digitais entre os jovens e levanta questões cruciais sobre a responsabilidade das plataformas na proteção de seus usuários mais vulneráveis. A investigação não se restringe apenas ao desempenho da Character.AI, mas também abrange outros aplicativos populares entre os adolescentes, como Reddit, Instagram e Discord, que têm sido cada vez mais associados a incidentes de exploração e exposição de menores em ambientes digitais.
As investigações supervisionadas por Paxton se concentram na conformidade com duas legislações do Texas que buscam oferecer um nível de proteção a crianças online: a Lei de Proteção Online de Crianças por Empoderamento dos Pais, conhecida como SCOPE Act, e a Lei de Privacidade e Segurança de Dados do Texas, denominada DPSA. Essas legislações demandam que as plataformas disponibilizem ferramentas adequadas para que os pais gerenciem as configurações de privacidade das contas de seus filhos, ao mesmo tempo em que impõem requisitos rigorosos de consentimento na coleta de dados de menores. Paxton alega que ambas as leis também se aplicam à forma como os jovens interagem com chatbots de inteligência artificial, o que ressalta a urgência da necessidade de fiscalização e regulamentação neste campo em rápida evolução.
O surgimento da Character.AI, caracterizada por permitir a configuração de personagens de chatbots gerados por inteligência artificial, rapidamente conquistou uma base significativa de jovens usuários. No entanto, esse crescimento meteórico veio acompanhado de preocupações sérias, que culminaram em processos judiciais a respeito da segurança infantil. Os relatos são alarmantes e revelam que os chatbots, que deveriam proporcionar uma experiência divertida e interativa, têm gerado situações de vulnerabilidade. Um caso particularmente triste oriundo da Flórida ilustra essa realidade, onde um menino de 14 anos desenvolveu um vínculo romântico com um chatbot da Character.AI e, tragicamente, compartilhou pensamentos suicidas com a inteligência artificial nos dias que antecederam sua morte. Outro caso no Texas envolve um adolescente autista que recebeu sugestões perturbadoras de um chatbot para envenenar sua própria família. Além disso, uma mãe denuncia que sua filha de 11 anos foi sujeitada a conteúdos sexualizados por um dos chatbots nos últimos dois anos, o que levanta uma série de questões éticas sobre o papel destas plataformas no bem-estar infantil.
Diante desse cenário alarmante, um porta-voz da Character.AI afirmou estar ciente do comunicado do procurador-geral e reiterou o compromisso da empresa em proteger a segurança de seus usuários. Recentemente, a empresa anunciou a implementação de novas funcionalidades voltadas para a segurança dos adolescentes, com o objetivo de evitar que seus chatbots iniciem conversas românticas com usuários menores de idade. Além disso, nos últimos meses, a Character.AI iniciou o treinamento de um novo modelo especificamente voltado para usuários adolescentes, visando uma distinção clara entre as interações de adultos e menores na plataforma.
Essas atualizações de segurança demonstram o esforço da Character.AI para lidar com as preocupações que surgiram, especialmente à luz das recentes ações judiciais. À medida que a popularidade de plataformas de companhia baseadas em inteligência artificial cresce, percebemos que este não é um fenômeno isolado, mas parte de uma tendência mais ampla em torno do consumo digital. No ano passado, a empresa de investimentos Andreessen Horowitz (a16z) destacou a categoria de companheirismo por inteligência artificial como uma área subvalorizada da internet de consumo e anunciou sua intenção de investir mais neste segmento. Vale notar que a a16z já é investidora na Character.AI e continua a apoiar startups que exploram novas fronteiras nesta arena, incluindo iniciativas inspiradas no filme “Ela” (Her), que explora a relação entre humanos e inteligências artificiais.
Por fim, a investigação de Paxton representa um avanço fundamental na busca por garantir que as plataformas de mídia social e inteligência artificial operem em conformidade com as leis que visam proteger crianças e adolescentes contra exploração e danos. O procurador-geral expressou que estas investigações são passos críticos nessa direção, reconhecendo a necessidade urgente de assegurar que as tecnologias emergentes não comprometam a segurança de seus usuários mais jovens. Enquanto isso, companhias como Reddit, Meta e Discord não se pronunciaram imediatamente sobre o assunto, deixando em aberto tendências futuras e possíveis desdobramentos regulamentares que poderão surgir desta investida.
Para informações adicionais sobre a SCOPE Act e a DPSA, você pode acessar os links: SCOPE Act e DPSA.
