Trajetória Acadêmica e Profissional de uma Especialista em Dados
Na contínua série “Mulheres em IA”, promovida pela TechCrunch, um espaço que busca destacar as conquistas de mulheres acadêmicas e profissionais na área de Inteligência Artificial (IA), foi realizada uma entrevista com a Dr. Rebecca Portnoff, renomada vice-presidente de ciência de dados da organização sem fins lucrativos Thorn. Esta instituição é conhecida pelo desenvolvimento de tecnologia voltada para a proteção de crianças contra o abuso sexual. A Dr. Portnoff é formada pela Universidade de Princeton e possui doutorado em ciência da computação pela Universidade da Califórnia, em Berkeley. Desde 2016, a Dr. Portnoff tem se elevado na hierarquia da Thorn, onde começou sua trajetória como cientista de pesquisa voluntária e, após oito anos de dedicação, hoje lidera uma das poucas equipes no mundo focadas em criar soluções de aprendizado de máquina e IA para interromper, prevenir e defender crianças de abusos sexuais.
A Missão da Thorn e Iniciativas Recentes
Na Thorn, a equipe da Dr. Portnoff trabalha em diversas frentes, incluindo a identificação de vítimas, a suspensão da revitimização e a contenção da disseminação de materiais de abuso sexual. Ela liderou no ano passado a iniciativa “Safety by Design”, em parceria com a organização All Tech Is Human, que visa impedir o uso de IA generativa para causar danos a crianças. Durante o desenvolvimento dessa iniciativa, a Dr. Portnoff descreveu o trabalho colaborativo de definição de princípios e mitigação de riscos, para que modelos geradores não produzissem materiais de abuso, e garantiu que tais conteúdos pudessem ser detectados de forma confiável. O trabalho dela também consiste em alinhar os líderes da indústria a esses padrões. Apesar do progresso, ela mesmo admite que o processo teve seu preço, refletido em sua aparência com os altos e baixos da tarefa. Uma das questões mais discutidas atualmente é o uso de IA para criar imagens sexuais não consensuais. A sociedade ainda carece de uma legislação federal abrangente para proteger indivíduos da criação de imagens geradas por IA sem consentimento, embora estados como Flórida, Louisiana e Novo México tenham introduzido legislações específicas para enfrentar o abuso infantil gerado por essas tecnologias.
A Visão de Portnoff sobre o Futuro da IA e Considerações Éticas
A Dr. Portnoff afirmou que este é um dos problemas mais urgentes à medida que a IA evolui. Ela citou que um em cada dez menores já souberam de casos em que conhecidos seus geraram imagens de nudez de outras crianças, a apontar para uma realidade alarmante que não deve ser aceita. No entanto, a Dr. Portnoff acredita que existem medidas mitigatórias a serem implementadas para prevenir e reduzir esse mau uso. Insistindo na adoção de princípios e políticas de segurança pela tecnologia, a Thorn tem colaborado com organizações profissionais como o Instituto de Engenheiros Elétricos e Eletrônicos (IEEE) e o Instituto Nacional de Padrões e Tecnologia (NIST) para promover padrões que ajudem a auditar os avanços nas práticas de segurança. Segundo ela, uma legislação impactante será necessária para engajar todas as empresas e partes interessadas nesse movimento.
Desafios e Superação como Mulher na Tecnologia
Ao longo de sua ascensão na construção de IAs, Portnoff recorda que frequentemente seu conselho era ignorado, sendo muitas vezes orientada a falar com colegas de formação técnica. Ela destaca que, para vencer esses desafios em um ambiente predominantemente masculino, é crucial estar preparada, agir com confiança e sempre presumir boas intenções. Através de uma abordagem que prioriza a escuta e a colaboração, ela enfatiza a importância de se conversar com várias partes interessadas ao construir uma IA responsável. Portnoff também aconselha que investidores devem começar a analisar se as empresas que apoiam estão comprometidas com a ética e a responsabilidade desde o estágio de diligência prévia, a fim de prevenir danos e fomentar crescimento positivo, ressaltando que existe uma quantidade significativa de trabalho a ser feito nesse sentido.
Conclusão: A Necessidade de um Compromisso Coletivo em Prol da Segurança Infantil
A história da Dr. Rebecca Portnoff serve como um apelo à ação para o desenvolvimento responsável de tecnologias de IA, enfatizando a necessidade de ética, transparência e um compromisso real com a segurança das crianças em um mundo cada vez mais digital. A seu ver, a responsabilidade não se limita apenas aos tecnólogos, mas exige um esforço conjunto de todas as partes envolvidas. Por fim, sua mensagem ressoa como um lembrete de que todas as vozes são necessárias nesta revolução da IA, particularmente para assegurar um futuro mais seguro e justo para as gerações mais vulneráveis.
