Gemini cita nome completo de usuária sem contexto e expõe falha em IA do Google

O chatbot de inteligência artificial Gemini, do Google, envolveu-se em uma polêmica de privacidade após citar o nome completo da desenvolvedora Julia Krisnarane durante uma conversa técnica com outro usuário, Lucas Villela. O caso, que não possuía contexto ou conexão prévia entre os envolvidos, gerou preocupação sobre o possível vazamento de dados reais e a exposição de informações sensíveis por modelos generativos.

Especialistas explicam que o ocorrido pode ser uma “alucinação” da IA, causada por falhas como a memorização indesejada de dados de treinamento ou contaminação cruzada entre sistemas interligados (como e-mail e histórico). Como os modelos funcionam baseados em probabilidades estatísticas para prever a próxima palavra, nomes reais podem acabar surgindo em contextos errados devido a erros de processamento ou “colisão de dados”.

Procurado para comentar o incidente, o Google não respondeu diretamente sobre o caso específico, limitando-se a enviar links sobre suas políticas de privacidade. A empresa ressalta em suas páginas oficiais que as interações podem ser usadas para treinar os modelos, mas orienta que os usuários desativem a opção “Manter atividade” nas configurações e evitem compartilhar informações sensíveis com a ferramenta.