Mémoire d'habilitation à diriger des recherches

Mon travail s'articule autour des problemes de satisfaction de contraintes (CSP) et de leurs extensions comme les problemes de contraintes quantifies (QCSP), la question essentielle etant de comprendre leur complexite. Ceux-ci peuvent etre vus comme des problemes de model-checking pour certains fragments de la logique du premier ordre. Dans le cas des CSP, Feder et Vardi ont propose la conjecture de la dichotomie, a savoir que chaque probleme CSP est soit facile (dans P) soit difficile (NP-complet). Dans le cas des QCSP, il n'existe pas encore de conjecture mature, mais une trichotomie entre P, NP-complet et Pspace-complet est envisageable.Mon manuscrit comporte deux parties.Une premiere partie porte sur la complexite du model checking pour les fragments syntaxiques de la logique du premier ordre et presente de maniere uniforme des polychotomies pour tous ces fragments sauf CSP et QCSP. Notre methodologie utilise trois ingredients : algebrique (correspondance de Galois pour apprehender l'expressivite d'un ensemble de relations), combinatoire (core generalise, i.e. sous-modele satisfaisant les meme formules pour le fragment etudie) et logique (relativisation de quantificateur(s)). En particulier, nous demontrons une tetrachotomie pour le fragment positif sans egalite de la logique du premier ordre qu'on peut voir comme une extension du QCSP pour laquelle on s'autorise la disjonction.La seconde partie porte sur des questions autour de la logique de Feder et Vardi. Cette logique est intimement liee a la classe des CSP de domaine fini: elle exhibe une dichotomie si, et seulement si, la conjecture de la dichotomie est vraie. Un probleme capture dans cette logique s'exprime en terme de motifs colories interdits ou encore comme un CSP de domaine infini etudies par Bodirsky. De plus, on peut decider lorsqu'il s'agit d'un CSP fini et l'inclusion de tels problemes. Dans le cas special ou ces problemes sont aussi du premier-ordre, on retrouve des questions similaires sous le nom de dualite par homomorphisme avec les travaux en combinatoire de Nesetril et. al. De tels problemes du premier ordre apparaissent aussi en logique lorsqu'on considere les problemes du premier ordre preserves par homomorphisme inverse (theoreme de preservation de Rossman). Ces resultats de combinatoire et de logique peuvent etre releves pour s'appliquer aux problemes de motifs interdits. En particulier, pour des classes de structures suffisamment peu denses, les problemes de motifs interdits sont des CSP de domaine fini.