O modelo Gemma foi retirado do AI Studio depois de afirmar, de forma incorreta, que a senadora republicana Marsha Blackburn havia cometido agressão sexual. A Google classificou o erro como uma “alucinação” da IA e prometeu reforçar medidas para evitar novas distorções
A Google decidiu remover o modelo de Inteligência Artificial Gemma da sua plataforma AI Studio depois de, alegadamente, ter acusado falsamente uma senadora republicana de ter cometido agressão sexual.
Conta o site The Verge que a senadora em questão, Marsha Blackburn, enviou uma carta ao CEO da Google, Sundar Pichai, a dar conta da situação e a ameaçar a empresa de mover um processo por difamação.
A publicação refere que o modelo Gemma foi questionado se a senadora Blackburn alguma vez havia sido acusada de violação, com a Inteligência Artificial a ter respondido afirmativamente e até a partilhar notícias falsas sobre o assunto. O modelo notou que esta agressão teve lugar em 1987 durante uma campanha de Blackburn, sendo que a senadora só se candidatou a um lugar no senado em 1998.
Google has reportedly removed Gemma from its AI studio after I demanded the company take it down for smearing conservatives with manufactured criminal allegations.
Google owes the American people answers, and I will be eagerly awaiting their response to my letter. pic.twitter.com/n8ye5ZKBu1— Sen. Marsha Blackburn (@MarshaBlackburn) November 3, 2025
“A Google terá removido o Gemma do seu AI Studio depois de ter exigido à empresa que o removesse por difamar conservadores com alegações criminais fabricadas”, escreveu Blackburn na rede social X. “A Google deve respostas ao povo americano e estarei ansiosamente à espera da resposta à minha carta”.
Em sua defesa, a Google fez uma publicação onde explica que o Gemma e outros modelos abertos semelhantes não foram desenvolvidos para verificação de factos e notou que se tratou de uma ‘alucinação’ – uma situação em que o modelo de Inteligência Artificial inventou factos.
“Continuamos comprometidos em minimizar as alucinações e a continuar a melhorar todos os nossos modelos”, pode ler-se nas publicações partilhadas pela Google na rede social X. “Nunca tivemos intenção que este fosse um modelo ou ferramenta para os consumidores ou que fosse usado desta forma. Para prevenir esta confusão, o acesso ao Gemma já não está disponível através do AI Studio. Ainda está disponível para developers através da API”.
Gemma is available via an API and was also available via AI Studio, which is a developer tool (in fact to use it you need to attest you’re a developer). We’ve now seen reports of non-developers trying to use Gemma in AI Studio and ask it factual questions. We never intended this…
— News from Google (@NewsFromGoogle) November 1, 2025
Modelo de IA da Google fez acusações falsas sobre senadora dos EUA
