crescendo como imigrante, cyril gorlla é um exemplo de perseverança e criatividade ao desenvolver suas habilidades em programação e inteligência artificial. Desde jovem, ele demonstrou uma paixão inabalável pela tecnologia, o que culminou em sua apresentação recente na TechCrunch Disrupt 2024, onde compartilhou sua visão e planos para sua empresa, a CTGT. O sonho de gorlla e sua equipe é transformar a forma como as organizações utilizam a inteligência artificial, concentrando-se na segurança e confiabilidade dos modelos. Isso ajuda a garantir que a adoção de soluções baseadas em IA seja responsável e eficaz, especialmente em setores críticos como saúde e finanças, onde decisões equivocadas podem ter consequências catastróficas.
a trajetória de gorlla começou quando ele, aos 11 anos, destacou-se em um curso de programação em uma faculdade comunitária, apesar das limitações que suas circunstâncias familiares impunham. Durante o ensino médio, ele se interessou profundamente pela inteligência artificial, a ponto de desmontar seu laptop para aprimorar o resfriamento interno, uma paixão que o levou a um estágio na intel, onde esteve envolvido em pesquisas sobre otimização e interpretabilidade de modelos de IA. Nos últimos anos, o boom da IA, com empresas como a openai levantando bilhões de dólares para suas tecnologias, moldou a visão de gorlla sobre o potencial transformador da IA em diversos setores.
mas, ao mesmo tempo, gorlla se preocupou com a rápida evolução da inteligência artificial e a falta de foco em sua segurança. “sinto que precisamos de uma mudança fundamental em como entendemos e treinamos a inteligência artificial,” afirmou. Ele notou que a incerteza e a falta de confiança nas saídas dos modelos são barreiras significativas à adoção em indústrias que poderiam se beneficiar enormemente das inovações proporcionadas pela IA. Juntamente com seu colega trevor tuttle, gorlla decidiu abandonar seu programa de pós-graduação para lançar a ctgt, uma empresa dedicada a ajudar organizações a implantar IA de forma mais consciente. A CTGT apresentou sua proposta no evento TechCrunch Disrupt 2024, como parte da competição Startup Battlefield, com gorlla brincando que sua família poderia ficar surpresa ao saber de sua nova empreitada.
a CTGT se propõe a trabalhar junto às empresas para identificar e corrigir problemas de vieses e alucinações em modelos de IA, compreendendo que é impossível eliminar completamente os erros. Para gorlla, seu método de auditoria pode proporcionar um meio eficaz para que as organizações mitiguem esses erros. Ele explicou: “nós expomos a compreensão interna de um modelo sobre os conceitos. Enquanto um modelo recomendar aos usuários adicionar cola a uma receita pode ser engraçado, uma resposta que sugere concorrentes quando um cliente pede uma comparação de produtos não é trivial. É inaceitável que um paciente receba informações de um estudo clínico desatualizado ou que uma decisão de crédito seja baseada em dados fantasiosos.” Segundo um levantamento da Cnvrg, a confiabilidade é uma das principais preocupações das empresas ao adotar aplicativos de IA; adicionalmente, um estudo da Riskonnect revelou que mais da metade dos executivos expressaram preocupação com decisões tomadas com base em informações imprecisas provenientes de ferramentas de IA.
embora a ideia de uma plataforma dedicada à avaliação da tomada de decisão de um modelo de IA não seja nova, gorlla acredita que as técnicas da ctgt se destacam, especialmente porque não dependem do treinamento de uma IA “juíza” para monitorar modelos em produção. “nossa interpretabilidade matematicamente garantida se difere dos métodos atuais de ponta, que são ineficientes e treinam centenas de outros modelos para obter insights,” explicou ele. Em um cenário onde as empresas estão se tornando cada vez mais conscientes dos custos de computação e a IA empresarial está migrando de demonstrações para a entrega de valor real, a proposta da ctgt é especialmente relevante, pois garante que as empresas possam testar rigorosamente a segurança de suas IA sem precisar treinar modelos adicionais.
para tranquilizar potenciais clientes quanto a vazamentos de dados, a ctgt oferece opções que garantem controle total sobre o uso das informações. “não temos acesso aos dados dos clientes, dando a eles controle total sobre como e onde esses dados são utilizados,” disse gorlla. A startup, que participou do programa de aceleração Character Labs, conta com o apoio de investidores notáveis, como mark cuban e cofundadores do zapier. Cuban destacou a importância de desenvolver IA que possa explicar seu raciocínio, especialmente em áreas onde regras e requisitos complexos se aplicam. “investei na ctgt porque estamos enfrentando e resolvendo esse problema”, afirmou. Embora esteja em estágio inicial, a ctgt já atende a vários clientes, incluindo três marcas anônimas da Fortune 10, demonstrando uma crescente demanda por soluções de interpretabilidade de IA.
um dos casos de sucesso inclui o trabalho com uma marca que buscava reduzir o viés em seu algoritmo de reconhecimento facial. Segundo gorlla, foi possível identificar que o modelo se concentrava excessivamente em características como cabelo e vestuário para fazer suas previsões. “nossa plataforma forneceu aos profissionais insights imediatos, sem os desafios e demoras dos métodos tradicionais de interpretabilidade,” destacou. A ctgt planeja, nos próximos meses, expandir sua equipe de engenharia e aprimorar sua plataforma. Se conseguir se firmar no emergente mercado de interpretabilidade de IA, as perspectivas para a startup são promissoras. A firma de análises Markets and Markets projeta que o setor de “IA explicativa” pode valer até 16,2 bilhões de dólares até 2028.
gorlla concluiu enfatizando a necessidade de se focar na compreensão fundamental da IA para lidar com a crescente complexidade e ineficiência das decisões modelares. “o tamanho dos modelos está ultrapassando amplamente a lei de Moore e os avanços nos chips de treinamento de IA,” finalizou.
