PAC-Bayes et adaptation au domaine.

Résumé Nous fournissons deux contributions principales dans la théorie PAC-Bayesienne pour l'adaptation de domaine où l'objectif est d'apprendre, à partir d'une distribution source, un vote majoritaire performant sur une distribution cible différente, mais connexe. Premièrement, nous proposons une amélioration de l'approche précédente que nous avons proposée dans Germain et al. (2013), qui s'appuie sur une nouvelle pseudodistance de distribution basée sur une moyenne de désaccord, ce qui nous permet de dériver une nouvelle limite d'adaptation au domaine plus stricte pour le risque cible. Bien que cette limite soit dans l'esprit des travaux courants sur l'adaptation au domaine, nous dérivons une deuxième limite (récemment introduite dans Germain et al., 2016) qui apporte une nouvelle perspective sur l'adaptation au domaine en dérivant une limite supérieure sur le risque cible où la divergence des distributions - exprimée comme un ratio - contrôle le compromis entre une mesure d'erreur de la source et le désaccord des électeurs cibles. Nous discutons et comparons les deux résultats, à partir desquels nous obtenons des limites de généralisation PAC-Bayes. En outre, à partir de la spécialisation PAC-Bayes aux classificateurs linéaires, nous déduisons deux algorithmes d'apprentissage et nous les évaluons sur des données réelles.