Sparse and Spurious : Dictionary Learning With Noise and Outliers.

Résumé Une approche populaire dans les communautés du traitement du signal et de l'apprentissage automatique consiste à modéliser les signaux comme des combinaisons linéaires éparses d'atomes sélectionnés dans un dictionnaire appris. Si ce paradigme a donné lieu à de nombreux succès empiriques dans divers domaines allant du traitement des images au traitement du son, seuls quelques arguments théoriques sont venus étayer ces preuves. En particulier, le codage clairsemé, ou l'apprentissage de dictionnaires clairsemés, repose sur une procédure non convexe dont les minima locaux n'ont pas encore été complètement analysés. Dans cet article, nous considérons un modèle probabiliste de signaux clairsemés, et montrons que, avec une forte probabilité, le codage clairsemé admet un minimum local autour du dictionnaire de référence générant les signaux. Notre étude prend en compte le cas de dictionnaires sur-complets, de signaux bruyants, et d'éventuelles valeurs aberrantes, étendant ainsi les travaux précédents limités à des contextes sans bruit et/ou à des dictionnaires sous-complets. L'analyse que nous menons est non-asymptotique et permet de comprendre comment les quantités clés du problème, telles que la cohérence ou le niveau de bruit, peuvent évoluer en fonction de la dimension des signaux, du nombre d'atomes, de la sparsité et du nombre d'observations.