Les barycentres débiles de Sinkhorn.

Auteurs
Date de publication
2020
Type de publication
Article de conférence
Résumé La régularisation de l'entropie dans le transport optimal (OT) a été le moteur de nombreux intérêts récents pour la métrique de Wasserstein et les barycentres dans l'apprentissage automatique. Elle permet de conserver les propriétés géométriques attrayantes de la distance de Wasserstein non régularisée tout en ayant une complexité nettement inférieure grâce à l'algorithme de Sinkhorn. Cependant, l'entropie apporte un biais de lissage inhérent, qui se traduit par exemple par des barycentres flous. Cet effet secondaire a suscité une tentation croissante dans la communauté de se contenter d'un algorithme plus lent tel que l'algorithme de Sinkhorn stabilisé par le domaine logarithmique qui brise la structure parallèle qui peut être exploitée sur les GPU, ou même de revenir à l'OT non régularisé. Nous montrons ici comment ce biais est étroitement lié à la mesure de référence qui définit le régularisateur d'entropie et proposons des barycentres de Wasserstein débités qui préservent le meilleur des deux mondes : des itérations rapides de type Sinkhorn sans lissage d'entropie. Sur le plan théorique, nous prouvons que le barycentre entropique OT des gaussiennes univariées est une gaussienne et quantifions son biais de variance. Ce résultat est obtenu en étendant la différentiabilité et la convexité de l'OT entropique à des mesures sous-gaussiennes avec des supports non bornés. Empiriquement, nous illustrons la réduction du flou et l'avantage computationnel sur diverses applications.
Thématiques de la publication
  • ...
  • Pas de thématiques identifiées
Thématiques détectées par scanR à partir des publications retrouvées. Pour plus d’informations, voir https://scanr.enseignementsup-recherche.gouv.fr