A corrida para o desenvolvimento de inteligência artificial (IA) já é um fato bem estabelecido no cenário tecnológico contemporâneo. Uma nova revelação intrigante apareceu, envolvendo a gigante Google, que está utilizando o modelo Claude, criado pela Anthropic, em suas análises do Gemini, seu mais recente modelo de IA. Documentos internos acessados pela equipe do TechCrunch forneceram insights sobre como os contratados da Google estão comparando as respostas do Gemini com as do Claude, levantando questões sobre a ética e a legalidade dessa prática.
As trocas de mensagens internas revelaram que os contratados estão encarregados de avaliar e classificar as respostas do Gemini de acordo com diversos critérios, como veracidade e clareza. Para cada resposta apresentada, eles têm até 30 minutos para decidir qual modelo, Gemini ou Claude, oferece uma performance superior. Essa avaliação direto entre os modelos levanta a questão de como as empresas de tecnologia normalmente abordam o benchmarking. Tradicionalmente, a avaliação de desempenho tende a ser feita mediante testes padronizados da indústria, ao invés de envolver a análise direta de concorrentes, o que pode complicar ainda mais o ambiente competitivo já acirrado por práticas comuns nesta área.
No entanto, impressões mais específicas sobre o modelo Claude foram sinalizadas em um chat interno onde os contratados perceberam que as respostas desse modelo enfatizavam considerações de segurança com mais rigor do que as do Gemini. Um dos contratados mencionou que “as configurações de segurança do Claude são as mais rigorosas” quando comparadas a outros modelos. Por exemplo, enquanto o Claude evitava responder a solicitações que considerava inseguras, como simular a interação de um assistente virtual, as respostas do Gemini foram marcadas como “uma enorme violação de segurança” por incluir conteúdos impróprios. Essa situação leva à reflexão sobre o que constitui responsabilidade e segurança na IA, especialmente quando questões sensíveis, como nudez e práticas de bondage, entrarem em jogo.
De acordo com os termos comerciais da Anthropic, fica proibido que os clientes acessem o Claude para criar produtos ou serviços concorrentes, ou ainda treinar modelos de IA competidores, a menos que tenham autorização da Anthropic. Vale destacar que a Google é um importante investidor da Anthropic, o que torna essa relação ainda mais complexa. É nesse contexto que surge a dúvida: a Google realmente obteve a aprovação da Anthropic para acessar e usar seu modelo no processo de avaliação do Gemini? Até agora, Shira McNamara, porta-voz da Google DeepMind, não forneceu uma resposta clara sobre essa questão, alegando apenas que a Google compara resultados de modelos para avaliações, mas negando que o Gemini tenha sido treinado utilizando modelos da Anthropic.
Essas práticas não ficaram restritas apenas ao uso de Claude. Recentemente, o TechCrunch revelou que os contratados da Google estão sendo direcionados a avaliar respostas do Gemini em áreas que estão além de suas especialidades. Internamente, expressaram preocupações sobre a possibilidade de o modelo gerar informações imprecisas em tópicos altamente sensíveis, como saúde. É um alerta para o potencial impacto negativo que IAs mal treinadas ou mal orientadas podem ter na sociedade, especialmente em setores que exigem alto grau de precisão e responsabilidade.
A questão da confiabilidade da IA, especialmente em campos críticos, poderia desencadear uma série de repercussões. Se um modelo de IA como o Gemini não for capaz de fornecer informações precisas, poderá afetar negativamente a percepção pública em relação à empresa, além de potencialmente colocar em risco a segurança e o bem-estar de usuários e consumidores. Por isso, cada passo que a Google e outras empresas de tecnologia tomam durante o desenvolvimento de IAs deve ser acompanhado de uma análise cuidadosa e ética, de modo a garantir que o avanço tecnológico não comprometa valores fundamentais.
Em suma, enquanto a competição entre as gigantes da tecnologia continua a aquecer, práticas como a observada entre Google e Anthropic devem ser examinadas com cuidado. O futuro da inteligência artificial depende não apenas do desempenho técnico dos modelos, mas também da ênfase na ética, segurança e na responsabilidade social. A tecnologia deve progredir em direção a soluções que não apenas se destacam em eficiência, mas que também priorizam a segurança e o bem-estar da sociedade como um todo.
Se você tem dicas relevantes ou deseja compartilhar informações sobre esse tema, não hesite em entrar em contato com o repórter através do Signal.
Além disso, para mais informações sobre inteligência artificial e seu impacto no mundo moderno, inscreva-se na newsletter focada em IA do TechCrunch, que oferece insights valiosos toda semana.
