Taux optimaux pour les algorithmes spectraux avec régression des moindres carrés sur des espaces de Hilbert.

Résumé Dans cet article, nous étudions les problèmes de régression sur un espace de Hilbert séparable avec la perte carrée, couvrant la régression non-paramétrique sur un espace de Hilbert à noyau reproducteur. Nous étudions une classe d'algorithmes spectraux/régularisés, y compris la régression ridge, la régression en composantes principales et les méthodes de gradient. Nous prouvons des résultats de convergence optimaux et à haute probabilité en termes de variantes de normes pour les algorithmes étudiés, en considérant une hypothèse de capacité sur l'espace des hypothèses et une condition de source générale sur la fonction cible. Par conséquent, nous obtenons des résultats de convergence presque sûrs avec des taux optimaux. Nos résultats améliorent et généralisent les résultats précédents, comblant un vide théorique pour les cas non réalisables.