Apprentissage d'ensembles basés sur des points de repère à l'aide de caractéristiques aléatoires de Fourier et de l'optimisation par gradient.

Résumé Nous proposons un algorithme de boosting de gradient pour l'apprentissage d'un ensemble de fonctions à noyau adaptées à la tâche à accomplir. Contrairement aux techniques d'apprentissage à noyaux multiples qui utilisent un dictionnaire pré-calculé de fonctions à noyaux à sélectionner, à chaque itération nous ajustons un noyau en l'approximant comme une somme pondérée de fonctions de Fourier aléatoires (RFF) et en optimisant leur barycentre. Cela nous permet d'obtenir une méthode plus polyvalente, plus facile à mettre en place et susceptible d'avoir de meilleures performances. Notre étude s'appuie sur un résultat récent montrant que l'on peut apprendre un noyau à partir de RFF en calculant le minimum d'une limite PAC-Bayes sur la perte de généralisation de l'alignement du noyau, qui est obtenue efficacement à partir d'une solution à forme fermée. Nous effectuons une analyse expérimentale pour mettre en évidence les avantages de notre méthode par rapport aux méthodes de pointe basées sur le boosting et l'apprentissage de noyaux.