Analyse mathématique de modèles de la mécanique quantique.

Résumé Cette thèse regroupe un ensemble de travaux relatifs à l'étude de problèmes de minimisation qui se posent dans la modélisation par la mécanique quantique des atomes et des molécules, en physique atomique, d'une part, et des noyaux, en physique nucléaire, d'autre part. Les deux parties de cette thèse traitent successivement de ces deux types de problèmes. Dans la première partie, nous nous intéressons à l'existence d'une géométrie optimale des noyaux, pour un ion ou une molécule donnés, dans le cadre des modèles de type Thomas-Fermi, de Hartree et de Hartree-Fock. La seconde partie est consacrée à l'étude de deux familles de modèles de la physique nucléaire : des modèles de type Hartree et un modèle de Hartree-Fock avec un potentiel simplifie de type Skyrme. Dans les deux cas, les questions posées se traduisent en termes de problèmes de minimisation dans l'espace à trois dimensions, invariants par translation, par le biais d'une fonctionnelle (d'énergie) dépendant d'une ou plusieurs fonctions soumises à diverses contraintes de normalisation. La perte de compacité des suites minimisantes, liée à l'invariance par translation, est analysée par la méthode de concentration-compacité.