Théorèmes PAC-Bayes pour l'adaptation au domaine avec spécialisation aux classificateurs linéaires.

Résumé Dans cet article, nous fournissons deux contributions principales dans la théorie PAC-Bayesienne pour l'adaptation de domaine où l'objectif est d'apprendre, à partir d'une distribution source, un vote majoritaire performant sur une distribution cible différente. D'une part, nous proposons une amélioration de l'approche précédente proposée par Germain et al. (2013), qui s'appuie sur une nouvelle pseudodistance de distribution basée sur une moyenne de désaccord, ce qui nous permet de dériver une nouvelle limite d'adaptation de domaine PAC-Bayesienne plus serrée pour le classifieur de Gibbs stochastique. Nous la spécialisons aux classifieurs linéaires et concevons un algorithme d'apprentissage qui montre des résultats intéressants sur un problème synthétique et sur une tâche populaire d'annotation de sentiments. D'autre part, nous généralisons ces résultats à l'adaptation au domaine multisource, ce qui nous permet de prendre en compte différents domaines sources. Cette étude ouvre la voie à la résolution de tâches d'adaptation de domaine en utilisant tous les outils PAC-Bayes.