Apprentissage pseudo-bayésien avec la transformée de Fourier du noyau comme antécédent.

Résumé Nous revisitons la méthode des caractéristiques de Fourier aléatoires (RFF) à noyau de Rahimi et Recht (2007) à travers le prisme de la théorie PAC-Bayes. Alors que le but premier de RFF est d'approximer un noyau, nous considérons la transformée de Fourier comme une distribution a priori sur des hypothèses trigonométriques. Cela suggère naturellement d'apprendre un postérieur sur ces hypothèses. Nous dérivons des bornes de généralisation qui sont optimisées par l'apprentissage d'une pseudo-postérieure obtenue à partir d'une expression à forme fermée. Sur la base de cette étude, nous considérons deux stratégies d'apprentissage : La première trouve une représentation compacte des données basée sur les points de repère où chaque point de repère est donné par une mesure de similarité adaptée à la distribution, tandis que la seconde fournit une justification PAC-Bayesienne à la méthode d'alignement par noyau de Sinha et Duchi (2016).