Modèles non paramétriques pour les fonctions non négatives.

Résumé Les modèles linéaires ont montré une grande efficacité et une grande flexibilité dans de nombreux domaines tels que l'apprentissage automatique, le traitement du signal et les statistiques. Ils peuvent représenter de riches espaces de fonctions tout en préservant la convexité des problèmes d'optimisation où ils sont utilisés, et sont simples à évaluer, différencier et intégrer. Cependant, pour la modélisation des fonctions non négatives, qui sont cruciales pour l'apprentissage non supervisé, l'estimation de densité ou les méthodes bayésiennes non paramétriques, les modèles linéaires ne sont pas directement applicables. De plus, les modèles actuels de l'état de l'art, comme les modèles linéaires généralisés, conduisent à des problèmes d'optimisation non convexes ou ne peuvent pas être facilement intégrés. Dans cet article, nous proposons le premier modèle pour les fonctions non négatives qui bénéficie des mêmes bonnes propriétés que les modèles linéaires. En particulier, nous prouvons qu'il admet un théorème de représentation et fournissons une formulation duale efficace pour les problèmes convexes. Nous étudions son pouvoir de représentation, en montrant que l'espace de fonctions résultant est strictement plus riche que celui des modèles linéaires généralisés. Enfin, nous étendons le modèle et les résultats théoriques aux fonctions avec des sorties dans des cônes convexes. L'article est complété par une évaluation expérimentale du modèle montrant son efficacité en termes de formulation, de dérivation algorithmique et de résultats pratiques sur les problèmes d'estimation de densité, de régression avec erreurs hétéroscédastiques et de régression quantile multiple.