Google présente Urania, un framework de confidentialité différentielle pour analyser l'usage des chatbots IA

Google Research présente Urania, un framework de confidentialité différentielle (DP) qui génère des insights sur les conversations avec les chatbots LLM avec des garanties mathématiques de bout en bout, présenté à COLM 2025. Le pipeline combine clustering DP, extraction de mots-clés par histogramme DP et summarization par LLM sur les seuls mots-clés anonymisés, sans jamais exposer les conversations originales. Face au baseline non privé Simple-CLIO, les résumés DP ont été préférés jusqu'à 70 % du temps par les évaluateurs LLM, malgré une couverture thématique réduite lorsque le budget de confidentialité ε diminue.