Limites PAC-Bayes basées sur la divergence de Rényi.
Auteurs
Date de publication
- BEGIN Luc
- GERMAIN Pascal
- LAVIOLETTE Francois
- ROY Jean francis
2016
Type de publication
Article de conférence
Résumé
Nous proposons un processus de preuve simplifié pour les limites de généralisation PAC-Bayes, qui permet de diviser la preuve en quatre inégalités successives, facilitant ainsi la "personnalisation" des théorèmes PAC-Bayes. Nous proposons également une famille de bornes PAC-Bayes basée sur la divergence de Rényi entre les distributions antérieure et postérieure, alors que la plupart des bornes PAC-Bayes sont basées sur la divergence de Kullback-Leibler. Enfin, nous présentons une évaluation empirique de la rigueur de chaque inégalité de la preuve simplifiée, tant pour les bornes PAC-Bayes classiques que pour celles basées sur la divergence de Rényi.
Thématiques de la publication
-
Pas de thématiques identifiées
Thématiques détectées par scanR à partir des publications retrouvées. Pour plus d’informations, voir https://scanr.enseignementsup-recherche.gouv.fr