Problèmes variationnels avec défaut de compacité et orbites homoclines de systèmes hamiltoniens.

Résumé Dans cette thèse, nous proposons une approche variationnelle au problème de l'existence et de la multiplicité d'orbites homoclones de systèmes hamiltoniens. Les hamiltoniens considérés sont définis sur un espace vectoriel réel de dimension paire muni de la forme symplectique usuelle. Ils possèdent un équilibre hyperbolique, et l'on appelle orbites homoclines, des solutions non constantes qui tendent vers cet équilibre dans les deux directions infinies du temps. Nous obtenons l'existence d'une ou plusieurs de ces orbites sous des hypothèses globales portant sur le hamiltonien. Dans la première partie de cette thèse, le hamiltonien dépend périodiquement du temps. Sous des hypothèses de convexité et de superquadraticité, nous montrons l'existence d'une infinité d'orbites homoclines, sans la condition classique de transversalité. Notre résultat se présente sous la forme d'une alternative: ou bien les orbites homoclines sont en quantité non dénombrable, ou bien il existe un ensemble infini d'orbites homoclines, possédant une structure particulière que nous appelons décalage de Bernoulli approché. Dans ce second cas, l'entropie topologique du système est strictement positive. Dans la deuxième partie, le système hamiltonien est autonome. Nous présentons le premier résultat d'existence d'orbites homoclones sous des hypothèses invariantes par transformations symplectiques.