Langage rationnel

Un article de Wikipédia, l'encyclopédie libre.
Aller à : navigation, rechercher

Les langages rationnels ou langages réguliers ou encore langages reconnaissables peuvent être décrits de plusieurs façons équivalentes :

  • ce sont les langages décrits par les expressions régulières ou rationnelles, d'où le nom de langages réguliers ;
  • ce sont les langages obtenus, à partir des lettres et de l'ensemble vide, par les opérations rationnelles, à savoir l'union, le produit et l'étoile (ou fermeture de Kleene), d'où le nom de langages rationnels ;
  • ce sont les langages reconnus par des automates finis, d'où le nom de langages reconnaissables.

Ce sont aussi :


Les langages rationnels ont de très nombreuses applications, à la fois théoriques et pratiques. Ils sont utilisés en informatique (par exemple en compilation), en linguistique (par exemple pour décrire la morphologie d'une langue), ils interviennent dans les traitements de texte, ou dans des commandes spécifiques comme grep du système Unix.

Pour la manipulation des langages rationnels et des automates, il existe de nombreux outils informatiques, notamment dans les systèmes du type Unix comme la commande lex. Le langage informatique Java fournit aussi la classe Pattern. Les algorithmes utilisés pour manipuler les langages rationnels possèdent en général une implémentation rapide et efficace.


Définition[modifier | modifier le code]

On considère un ensemble fini A de caractères ou lettres, appelé alphabet. Une chaîne de caractères (ou chaîne ou mot) est une suite finie, éventuellement vide, de caractères. Par exemple, la chaîne formée de la lettre a, puis de la lettre b, puis encore de la lettre a, se note aba.

L'ensemble des mots que l'on peut former avec ces lettres de A est noté A^*. Toute partie de A^* s'appelle un langage.

Opérations rationnelles[modifier | modifier le code]

Les opérations suivantes, définies sur les langages, sont appelées les opérations rationnelles. Soient X et Y deux parties de A^* :

  1. la concaténation ou le produit de X et Y, noté XY, est l'ensemble de mots xy, où x est dans X et y est dans Y. Par exemple, le produit de \{ab, c\} et de \{ba,c\} est \{abba,abc, cba,cc\};
  2. l'union ensembliste, notée X\cup Y;
  3. la fermeture de Kleene, notée X^{*} est le plus petit langage qui contient le mot vide \varepsilon, le langage X, et qui est clos pour l'opération de concaténation. C'est aussi l'ensemble de tous les produits de tous les mots de X. Par exemple, \{a,ab\}^\star  = \{\varepsilon,a,aa,ab,aaa,aab,aba,aaaa,aaab,aaba,abaa,abab,\dots\}.

Langages rationnels[modifier | modifier le code]

L'ensemble des langages rationnels sur l'alphabet A est le plus petit ensemble de langages stable pour les opérations rationnelles, et qui contient le langage vide \emptyset , les langages réduit à une lettre et le langage composé du mot vide \{\varepsilon\}.

Expressions rationnelles[modifier | modifier le code]

Article détaillé sur l'usage des expression régulières : Expression rationnelle.

Les expressions rationnelles sur l'alphabet A sont des expression obtenues à partir des constantes 0, 1, et de constantes a, pour les lettres a de A, par des opérations suivantes :

  1. L'opération + ou | (pour représenter l'union)
  2. L'opération \cdot (pour représenter le produit, ce point est d'ailleurs souvent omis)
  3. L'opération * (pour représenter l'étoile).

Chaque expression rationnelle e dénote un langage rationnel. Ce langage, noté L(e), est défini comme suit :

  1. L(0)=\emptyset, \ L(1)=\{\varepsilon\}, \ L(a)=\{a\}\, pour chaque lettre a
  2. L(e+f)=L(e)\cup L(f), \ L(e\cdot f)=L(e)L(f), \ L(e^\star)=L(e)^\star\,

Deux expressions rationnelles sont équivalentes si elles dénotent le même langage.

Exemple[modifier | modifier le code]

Les expressions (a^\star b)^\star a^\star et (a+b)^\star sont équivalentes.

Variantes[modifier | modifier le code]

Pour diminuer les parenthèses dans les expressions, on omet les parenthèses résultant de l'associativité des opérations, et de donner la plus haute priorité à l'étoile de Kleene, suivie de la concaténation, puis de l'union. Formellement, cela signifie que l'on identifie des expressions qui se déduisent l'une de l'autre par l'application de ces règles[1].

On ajoute parfois aussi, aux opérateurs sur les expressions, la fermeture +, donnant l'expression e^+. Le langage dénoté est donné par L(e^+)=L(e)^+, au sens de Opérateur plus. En revanche, l'opérateur de complémentation ne fait pas partie des opérations définissant les expressions rationnelles. Par contre, on défini les 'expressions rationnelles étendues comme les expressions incluant aussi l'opérateur de complémentation.

Notons enfin que dans les expressions régulières fournis par de nombreux outils de programmation ou d'édition, comme Unix, qed, grep, Emacs, d'autres opérateurs sont fréquemment ajoutés, avec des propriétés qui les rendent capables de décrire des langages qui ne sont pas rationnels. Ces expressions ne sont donc pas strictement équivalentes aux expressions rationnelles définies formellement ci-dessus.

Expressions rationnelles et automates finis[modifier | modifier le code]

Le théorème de Kleene[modifier | modifier le code]

Articles détaillés : théorème de Kleene et automate fini.

Le théorème de Kleene affirme que l'ensemble des langages rationnels sur un alphabet A est exactement l'ensemble des langages sur A reconnaissables par automate fini. C'est le résultat fondamental pour la théorie et les applications.

La correspondance entre langages rationnels et langages reconnaissables est effective : pour toute expression régulière, on peut construire effectivement, et de plusieurs façons, des automates qui reconnaissent le langage dénoté par l'expression. Réciproquement, à tout automate fini on peut associer une expression régulière qui dénote le langage reconnu par l'automate. Là aussi, il y a plusieurs méthodes, et on peut obtenir des expressions différentes, mais équivalentes.

Hauteur d'étoile[modifier | modifier le code]

La hauteur d'étoile d'une expression rationnelle e est le nombre h(e) défini récursivement comme suit :

  1. h(0)=h(1)=h(a)=0\, pour toute lettre a
  2. h(e+f)=h(e\cdot f)=\max\{h(e),h(f)\}
  3. h(e^\star)=1+h(e).

En d'autres termes, la hauteur d'étoile d'une expression est le nombre maximum d'étoiles imbriquées. Par exemple, h((a+b)^\star)=1 et \ h((a^\star b)^\star a^\star)=2. Ces deux expressions dénotent le même langage, donc la notion de hauteur d'étoile est liée à l'expression.

La hauteur d'étoile d'un langage rationnel X est le minimum des hauteurs d'étoile des expressions dénotant ce langage, c'est-à-dire

h(X)=\min\{h(e)\mid L(e)=X\}.

La question de l'existence de langages rationnels de hauteur d'étoile arbitrairement grande a été posée par Eggan et résolue par Françoise Dejean et Marcel-Paul Schützenberger[2]. Le problème de la hauteur d'étoile (en) est de calculer, de manière efficace, la hauteur d'étoile d'un langage rationnel. Ce problème a résisté longtemps. Il a été résolu la première fois en 1982 ; le meilleur algorithme, dû à Kirsten, est de 2005 (voir la page anglaise).

Une question qui est toujours ouverte concerne le problème de la hauteur d'étoile généralisée (en): si l'on autorise, comme opérateur supplémentaire, l'opérateur de complémentation, le pouvoir de description des expressions rationnelles (appelées généralisées) augmente bien entendu. On ne sait toujours pas s'il existe des langages rationnels de hauteur d'étoile généralisée arbitrairement grande (ni même de hauteur 2). Les langages de hauteur d'étoile généralisée 0 sont les « langages sans étoile » caractérisés par Marcel-Paul Schützenberger.

Le théorème de Myhill-Nerode[modifier | modifier le code]

Article détaillé : Théorème de Myhill-Nerode.

À tout langage L de A^*, on associe une relation d'équivalence \equiv_L sur A^* définie de la façon suivante :

u\equiv_L v\, si et seulement si pour tout mot x de A^*, on a ux\in L \iff vx\in L

Cette relation est une équivalence régulière à droite car elle est compatible avec la concaténation : si u\equiv_L v alors ux\equiv_L vx.

Le théorème de Myhill-Nerode affirme qu'un langage L est rationnel si et seulement si la relation \equiv_L est d'index fini, c'est-à-dire possède un nombre fini de classes d'équivalence.

Ce théorème a un intérêt théorique puisqu'il donne une caractérisation intrinsèque de l'automate minimal reconnaissant un langage donné. En effet, les états de l'automate fini déterministe minimal reconnaissant un langage rationnel L sont en bijection avec les classes d'équivalence de la relation \equiv_L[3]. Ce résultat est aussi à la base d'un algorithme efficace de minimisation (en), appelé l'algorithme de Moore.

Propriétés[modifier | modifier le code]

  • Les langages rationnels sont fermés, en plus de l'union, du produit et de l'étoile, par complémentation et donc par intersection.
  • Les langages rationnels sont fermés par image miroir : si X est un langage rationnel, alors X^r est rationnel, où X^r est l'ensemble des retournés ou images miroir des mots de X.
  • Pour tout langage rationnel X et tout mot u, le quotient gauche
           u^{-1}X=\{w\mid uw\in X\}
    est un langage rationnel.
  • L'image d'un langage rationnel par un morphisme est un langage rationnel.
  • L'image par un morphisme inverse d'un langage rationnel est un langage rationnel
  • L'image, par une substitution rationnelle, d'un langage rationnel est un langage rationnel (une substitution \sigma de A^* dans B^* est une application de A^* dans l'ensemble des parties de B^* qui est un morphisme pour la structure de monoïde multiplicatif sur l'ensemble des parties de B^*, c'est-à-dire \sigma(\varepsilon)=\{\varepsilon\} et \sigma(xy)=\sigma(x)\sigma(y), où le produit dans le membre droit est le produit des parties de B^*. Une substitution rationnelle est une substitution \sigma telle qui \sigma(a) est un langage rationnel sur B pour toute lettre a de A).
  • Le produit de mélange (en anglais shuffle product) de deux langages rationnels est un langage rationnel (le produit de mélange de deux mots x et y est l'ensemble des mots x_1y_1x_2y_2\cdots x_ny_n, où les x_i et les y_i sont des mots, tels que x=x_1x_2\dots x_n et y=y_1y_2\dots y_n. Le produit de mélange de deux langages est la réunion des produits de mélange des mots des langages).
  • La première moitié d'un langage X est le langage
         P(X)=\{p\in A^\star \mid\exists q\in A^\star : |p|=|q| \text{ et } pq\in X\}.
    En d'autre termes, on coupe au milieu des mots de X de longueur paire et on garde la première partie. Si X est un langage rationnel, alors P(X) est un langage rationnel.
  • Si l'on supprime, dans les mots d'un langage rationnel, une lettre sur deux, le résultat est encore un langage rationnel.

Lemme d'itération[modifier | modifier le code]

Le lemme d'itération (en anglais pumping lemma, traduit parfois malheureusement par lemme de pompage) donne une propriété nécessaire des langages rationnels. Il s'énonce informellement comme suit : dans tout mot assez long w d'un langage rationnel X, on peut trouver un facteur u non vide que l'on peut répéter un nombre arbitraire de fois, tout en restant dans le langage X.

C'est en fait une propriété d'un automate reconnaissant le langage X : un mot assez long reconnu par l'automate contient nécessairement un circuit qui l'on peut parcourir un nombre arbitraire de fois, tout en restant reconnu par l'automate

Ce lemme n'est pas une caractérisation des langages rationnels : il existe des langages qui vérifient la propriété d'itération mais qui ne sont pas rationnels.

Exemples et contre-exemples[modifier | modifier le code]

Les langages suivants sont rationnels :

  • L'ensemble des notations décimales des entiers naturels sur l'alphabet : 0, 1, 2, 3, 4, 5, 6, 7, 8, 9.
  • Tout langage fini.
  • L'ensemble des mots qui contiennent un mot donné.
  • L'ensemble des mots qui contiennent un nombre pair de "1".
  • L'ensemble des mots qui sont l'écriture en binaire d'un entier congruent à 2 modulo 5.

Les langages suivants ne sont pas rationnels :

  • L'ensemble de mots \{a^nb^n: n \ge 0 \}
  • Les ensembles \{a^nb^p: n \ge p\ge0 \},\{a^nb^p: n \ne p\}
  • Une expression bien parenthésée est obtenue comme étant soit le mot vide, soit (e)e'e et e' sont bien parenthésées. L'ensemble des expressions bien parenthésées est aussi appelé le langage de Dyck.
    Ce n'est pas un langage rationnel car son intersection avec le langage rationnel (^\star )^\star n'est pas un langage rationnel (c'est le langage précédent à un changement de symboles près).
  • L'ensemble des palindromes.

Les langages rationnels sur une seule lettre[modifier | modifier le code]

Lorsque l'alphabet est composé d'une seule lettre a, on connait une caractérisation précise des langages rationnels. Pour tout langage L de a^*, on note X(L) l'ensemble des exposants de L, soit

X(L)=\{n\in\N\mid a^n\in L\}.

On a alors la propriété suivante :

Un langage L sur a^* est rationnel si et seulement si son ensemble d'exposant X(L) est la réunion d'un ensemble fini de progressions arithmétiques.

Une progression arithmétique est un ensemble de la forme \{r+ns\mid n\in \N\}. Dans cette définition, la raison s est positive ou nulle; quand elle est nulle, la progression est réduite au singleton r ; on autorise aussi r à être plus grand que s. Par exemple, il existe un langage rationnel sur une lettre dont l'ensemble des exposants est la réunion des entiers pairs plus grand que 10, et des entiers 3 et 5. Ce langage est \{a^3,a^5\}\cup (a^2)^*a^{10}.

Pour démontrer que le langage rationnel de l'énoncé a bien la forme indiquée, on considère un automate fini déterministe complet qui reconnaît L. Soit q_0 son état initial, et soit

q_h=q_{h-1}\cdot a=q_0\cdot a^h

l'état atteint après la lecture de h lettres. La suite d'états

q_0,q_1,\ldots,q_n,\ldots

est ultimement périodique; en effet, l'automate n'a qu'un nombre fini d'états, donc il existe des entiers n et m>n tels que q_n=q_m, et alors q_{n+k}= q_{m+k} pour tout k>0. Soit n le plus petit indice tel que q_n apparaît deux fois, et donc une infinité de fois, dans la suite des états, et soit s>0 le plus petit entier tel que q_n=q_{n+s}. L'ensemble des mots qui amènent l'état initial q_0 sur l'état q_h est égal au singleton a^h si h<n, et est égal à a^h(a^s)^* sinon. Dans les deux cas, l'ensemble des exposants est une progression arithmétique. Comme le langage reconnu est une réunion de langages de ce type, il est de la forme annoncée. La réciproque se démontre tout simplement : chaque langage de la forme a^h(a^s)^* est visiblement rationnel, et une réunion finie de langages de cette forme l'est encore.

Dans cette preuve, on utilise les expressions rationnelles dans une des directions, et la structure de l'automate fini dans l'autre[4].

Généralisation aux monoïdes quelconques[modifier | modifier le code]

Voir aussi : théorème de Kleene.

Les parties rationnelles et les parties reconnaissables peuvent être définis dans tout monoïde. La contrepartie est qu'en général, le théorème de Kleene n'y est pas vérifié, c'est-à-dire que toute partie reconnaissable n'est pas nécessairement rationnelle et vice-versa.

Dans un monoïde M, l'ensemble des parties rationnelles est défini comme dans le cas de l'ensemble des mots A^*: c'est la plus petite famille, au sens de l'inclusion, de parties de M qui contient l'ensemble vide \emptyset et les singletons, et est stable par toutes les opérations rationnelles. Il est à noter que l'opération étoile revient à prendre le sous-monoïde engendré par la partie: ainsi, a^* est le monoïde engendré par l'élément a.

Pour ce qui est des parties reconnaissables, la définition par automates n'est plus appropriée car rien ne permet d'écrire un élément de M comme produit d'éléments minimaux (les lettres dans le cas de A^*). On utilise alors une définition équivalente, et qui peut être généralisée à tous les monoïdes. Une partie L de M est reconnue par un monoïde N s'il existe un morphisme de monoïdes \Phi de M sur N et une partie R de N tels que L=\Phi^{-1}(R). Une partie reconnaissable de M est alors une partie reconnue par un monoïde N fini.

Cette définition est bien équivalente à la première pour l'ensemble des mots. Si L est un langage rationnel, alors L est reconnu par son monoïde syntaxique (il suffit de prendre pour \Phi la projection canonique et pour R l'ensemble des classes d'équivalence incluses dans L). Réciproquement, si L est un langage reconnu par un monoïde fini M, alors l'automate (M,A,\delta,e,R) où:

  • e est l'élément neutre de M;
  • \delta est défini pour tout q\in M et a\in A par: \delta(q,a)=q\Phi(a)

reconnaît L. En effet, par hypothèse, on a L=\Phi^{-1}(R), et un mot w est accepté si et seulement si \delta(e,w)=\Phi(w)\in R, donc si et seulement si w appartient à \Phi^{-1}(R).

Le théorème de Kleene ne s'applique plus dans le cas général de monoïdes quelconques. Ainsi, une partie rationnelle pourra ne pas être reconnaissable et vice-versa. Néanmoins, on dispose d'un théorème dû à McKnight, qui recouvre une partie du théorème de Kleene et s'énonce ainsi: toute partie reconnaissable d'un monoïde M est rationnelle si et seulement si M admet une famille génératrice finie, c'est-à-dire est finiment engendrée.

Histoire[modifier | modifier le code]

La théorie débute dans les années 1940[5]. Warren McCulloch et Walter Pitts ont décrit, en 1943, le système nerveux en modélisant les neurones par des automates simples. Le logicien Stephen Cole Kleene a ensuite prouvé, en 1956, ce que l'on appelle le théorème de Kleene. En 1956, Edward F. Moore publie son algorithme de minimisation. En 1958, Anil Nerode et John Myhill publient leur caractérisation. En 1959, Michael Rabin et Dana Scott donnent, dans un célèbre article[6], un traitement rigoureux de la théorie des automates. Cet exposé pionnier leur vaut le Prix Turing.

Du point de vue pratique, c'est Ken Thompson[7] qui implémente les expressions rationnelles dans l'éditeur qed, puis l'éditeur ed sous Unix, et finalement dans grep. Depuis lors, les expressions rationnelles ont été largement utilisées dans les utilitaires tels que lex ainsi que dans les langages de programmation nés sous Unix, tels que expr, awk, Perl, Python... Une bonne partie d'entre eux reposent sur la bibliothèque regex, créée par Henry Spencer (en).

Voir aussi[modifier | modifier le code]

Notes[modifier | modifier le code]

  1. Pour une définition précise des règles de simplification, on peut consulter Sakarovitch (2003)
  2. Dejean et Schützenberger (1966)
  3. voir par exemple Hopcroft Ullman (1979) ou Carton (2008) ou Sakarovitch (2003)
  4. Pour des détails supplémentaires, on peut consulter Sakarovitch (2003). L'énoncé se trouve à la page 117, c'est la Proposition I.3.3.
  5. Pour un exposé des premières années de la théorie des automates et des langages rationnels, voir Perrin (1995)
  6. Rabin et Scott (1959)
  7. Notons qu'il a lui aussi reçu le Prix Turing.

Références[modifier | modifier le code]

  • Dominique Perrin, « Les débuts de la théorie des automates », Technique et science informatiques, vol. 14, no 4,‎ 1995, p. 409-433 (lire en ligne)
  • Françoise Dejean et Marcel-Paul Schützenberger, « On a Question of Eggan », Information and Control, vol. 9, no 1,‎ 1966, p. 23-2
  • (en) J. E. Hopcroft et J. D. Ullman, Introduction to Automata Theory, Languages and Computations, Addison-Wesley,‎ 1979 (ISBN 0-201-02988-X)
  • (en) Michael O. Rabin et Dana Scott, « Finite automata and their decision problems », IBM J. Res. Develop., vol. 3,‎ 1959, p. 114-125
  • Jacques Sakarovitch, Éléments de théorie des automates, Vuibert,‎ 2003 (ISBN 978-2-7117-4807-5)
    Traduction anglaise avec corrections: Elements of Automata Theory, Cambridge University Press 2009, (ISBN 9780521844253)