A era da inteligência artificial (IA) trouxe consigo oportunidades imensas, estimulando a inovação e a produtividade em diversos setores. Entretanto, essa revolução tecnológica não vem sem seus desafios; empresas que decidem implementar IA enfrentam um dilema complicado. O que fazer diante do potencial de ganhos expressivos, quando a implementação imprecisa pode expor o negócio e os clientes a riscos severos? Em meio a esse cenário desafiador, startups inovadoras focadas em segurança para IA estão surgindo, e a britânica Mindgard, originada de uma universidade, destaca-se como uma das principais promessas. Este texto explora as particularidades dessa nova iniciativa, seu modelo de negócio e os desafios que pretende enfrentar no competitivo mercado de segurança cibernética.
A Mindgard, assim como outras startups de segurança focadas em IA, como a israelense Noma e as americanas Hidden Layer e Protect AI, surge em resposta a uma necessidade crescente de proteção contra ameaças emergentes ligadas a tecnologias de IA. O CEO e CTO, Professor Peter Garraghan, enfatiza que, apesar de a IA ser essencialmente um software, os riscos cibernéticos que normalmente ouvimos falar aplicam-se também a esse novo domínio. “Se por um lado a IA oferece vantagens, por outro, a natureza opaca e o comportamento intrinsecamente aleatório dos sistemas de redes neurais demandam uma abordagem distinta”, acrescenta Garraghan.
Em sua estratégia, a Mindgard desenvolveu um sistema conhecido como Dynamic Application Security Testing for AI (DAST-AI), que se propõe a identificar vulnerabilidades somente detectáveis em tempo real. Isso é realizado por meio de uma abordagem contínua e automatizada de red teaming, onde simulações de ataques são realizadas baseando-se em uma biblioteca de ameaças específica da Mindgard. Um exemplo prático dessa tecnologia é a capacidade de avaliar a robustez de classificadores de imagem contra insumos adversariais, assegurando que os sistemas sejam capazes de resistir a ataques potenciais.
A fundação tecnológica da Mindgard se deve à experiência de Garraghan, que possui um sólido histórico acadêmico e de pesquisa em segurança de IA. O campo em que a empresa atua é dinâmico e em rápida evolução. Quando Garraghan começou sua jornada, ferramentas como o ChatGPT nem existiam, porém, ele tinha a visão de que modelos de processamento de linguagem natural e de imagem poderiam ser vulneráveis a novas ameaças. Sua contínua conexão com a Lancaster University é uma vantagem que, segundo ele, possibilitará à Mindgard se manter atualizada diante de um panorama mutável. O acordo permitirá que a empresa possua automaticamente a propriedade intelectual dos trabalhos de 18 pesquisadores de doutorado por alguns anos, um diferencial significativo. “Não há outra empresa no mundo que consiga um acordo desse tipo”, salienta Garraghan.
Por mais que a Mindgard possua fortes vínculos com a pesquisa, já se concretizou como um produto comercial. A empresa opera como uma plataforma SaaS (Software as a Service), sob a liderança do cofundador Steve Street, que exerce as funções de COO e CRO. Notavelmente, um dos cofundadores iniciais, Neeraj Suri, que tinha um papel ativo na parte de pesquisa, atualmente não faz mais parte da companhia.
O público-alvo da Mindgard é amplo, abrangendo empresas que buscam proteger suas operações, equipes de red teaming tradicionais e testadores de penetração, além de startups de IA que desejam demonstrar aos clientes que realizam prevenção de riscos associados à tecnologia. Este último ponto é especialmente relevante, uma vez que muitos desses potenciais clientes são baseados nos Estados Unidos, onde a Mindgard está ajustando sua estratégia para se adaptar ao mercado local.
Após concluir uma rodada de financiamento inicial de £3 milhões em 2023, a Mindgard agora anuncia uma nova captação de recursos de US$ 8 milhões, liderada pela .406 Ventures, de Boston, com a participação da Atlantic Bridge, WillowTree Investments e dos investidores existentes, IQ Capital e Lakestar. Este novo investimento destinar-se-á a várias frentes, incluindo o fortalecimento da equipe, desenvolvimento de produtos, pesquisa e desenvolvimento e, de maneira crucial, à expansão do mercado nos Estados Unidos. A recente designação de Fergal Glynn, ex-CMO da Next DLP, como VP de marketing, é um indicativo claro dessa abordagem.
Atualmente, a Mindgard conta com uma equipe de 15 funcionários, mas há planos para expandir esse número para 20-25 até o final do próximo ano. Essa estratégia de crescimento gradual reflete a percepção de Garraghan de que a segurança da IA “ainda não está em seu auge”. No entanto, ele é contundente ao afirmar que, quando a IA começar a ser amplamente implementada, acompanhada das ameaças de segurança que inevitavelmente surgirão, a Mindgard estará pronta para enfrentar os desafios que virão. “Construímos esta empresa para fazer o bem no mundo, e o bem aqui é que as pessoas podem confiar e utilizar a IA de forma segura e protegida”, conclui Garraghan.
Veja mais sobre a Mindgard no TechCrunch.
Com iniciativas como a da Mindgard, fica evidente que o futuro da segurança em IA está se moldando por meio de inovações que visam não apenas proteger as empresas, mas também garantir a confiança do usuário. O que vem pela frente nessa jornada será fundamental para entender não só a evolução da tecnologia, mas também como garantir uma convivência harmônica entre inovação e segurança.
