Hamiltonian Approach to Shape Spaces in a Diffeomorphic Framework : from the Discontinuous Image Matching Problem to a Stochastic Growth Model

Thèse présentée et soutenue à Cachan le 7 Mai 2009 devant le jury composé de : Mes derniers remerciements vont à ma famille et très spécialement à ma mère, qui a toujours tenu à ce que j'aille au bout de ma thèse. Je lui dédie ce travail. Enfin, je remercie très affectueusement Florence qui m'a soutenu depuis le début de ma thèse et sans qui cette période de thèse aurait été infiniment plus terne. 3 Résumé Ce travail de thèse se situe dans le contexte de l'appariement d'images par difféomor-phismes qui a été récemment développé dans le but d'applications à l'anatomie computa-tionnelle et l'imagerie médicale. D'un point de vue mathématique, on utilise l'action de groupe de difféomorphismes de l'espace euclidien pour décrire la variabilité des formes biologiques. Le cas des images discontinues n'était compris que partiellement. La première contribution de ce travail est de traiter complètement le cas des images discontinues en considérant comme modèle d'image discontinues l'espace des fonctions à variations bornées. On ap-porte des outils techniques pour traiter les discontinuités dans le cadre d'appariemment par difféomorphismes. Ces résultats sont appliqués à la formulation Hamiltonienne des géodésiques dans le cadre d'un nouveau modèle qui incorpore l'action d'un difféomor-phisme sur les niveaux de grille de l'image pour prendre en compte un changement d'intensité. La seconde application permet d'étendre la théorie des métamorphoses dévelop-pée par A.Trouvé et L.Younes aux fonctions discontinues. Il apparait que la géométrie de ces espaces est plus compliquée que pour des fonctions lisses. La seconde partie de cette thèse aborde des aspects plus probabilistes du domaine. On étudie une perturbation stochastique du système Hamiltonien pour le cas de particules (ou landmarks). D'un point de vue physique, on peut interpréter cette perturbation comme des forces aléatoires agissant sur les particules. Il est donc naturel de considérer ce modèle comme un premier modèle de croissance de forme ou au moins d'évolutions aléatoires de formes. On montre que les solutions n'explosent pas en temps fini presque sûrement et on étend ce modèle stochastique en dimension infinie sur un espace de Hilbert bien choisi (en quelque sorte un espace de Besov ou Sobolev sur une base de Haar). En dimension infinie la propriété précédente reste vraie et on obtient un important (aussi d'un point de vue numérique) résultat de convergence du cas des particules vers le cas de dimension infinie. Le cadre ainsi développé est suffisamment général pour être adaptable dans …