Amélioration accélérée du gradient.

Résumé Le boosting d'arbres de gradient est un algorithme de prédiction qui produit séquentiellement un modèle sous la forme de combinaisons linéaires d'arbres de décision, en résolvant un problème d'optimisation à dimension infinie. Nous combinons le boosting de gradient et la descente accélérée de Nesterov pour concevoir un nouvel algorithme, que nous appelons AGB (pour Accelerated Gradient Boosting). Des preuves numériques substantielles sont fournies sur des ensembles de données synthétiques et réelles pour évaluer l'excellente performance de la méthode dans une grande variété de problèmes de prédiction. Il est démontré empiriquement que l'AGB est beaucoup moins sensible au paramètre de rétrécissement et produit des prédicteurs qui sont considérablement plus clairsemés dans le nombre d'arbres, tout en conservant les performances exceptionnelles du boosting de gradient.