Langage rationnel

En théorie des langages, les langages rationnels ou langages réguliers ou encore langages reconnaissables peuvent être décrits de plusieurs façons équivalentes :

• ce sont les langages décrits par les expressions régulières ou rationnelles, d'où le nom de langages réguliers ;
• ce sont les langages obtenus, à partir des lettres et de l'ensemble vide, par les opérations rationnelles, à savoir l'union, le produit et l'étoile de Kleene, d'où le nom de langages rationnels ;
• ce sont les langages reconnus par des automates finis, d'où le nom de langages reconnaissables.

Les langages rationnels ont des applications à la fois théoriques et pratiques. Ils sont utilisés en informatique (par exemple en compilation de programmes), en linguistique (par exemple pour décrire la morphologie d'une langue). Ils interviennent dans les traitements de texte, ou dans des commandes spécifiques comme grep du système Unix.

Pour la manipulation des langages rationnels et des automates, il existe de nombreux outils informatiques, notamment dans les systèmes du type Unix comme la commande lex. Le langage informatique Java fournit aussi la classe Pattern. Les algorithmes utilisés pour manipuler les langages rationnels possèdent en général une implémentation rapide et efficace.

Définitions

Alphabet et langage

On considère un ensemble fini $A$ de caractères ou lettres, appelé alphabet. Une chaîne de caractères (ou chaîne ou mot) est une suite finie, éventuellement vide, de caractères. Par exemple, la chaîne formée de la lettre $a$, puis de la lettre $b$, puis encore de la lettre $a$, se note $aba$.

La longueur d'un mot est définie comme le nombre de lettres qui constituent ce mot : ainsi, par exemple, le mot $abac$ est de longueur 4. Et le mot vide, noté $\varepsilon$ ou $1$, est le seul mot de longueur nulle.

L'ensemble des mots que l'on peut former avec des lettres de $A$, y compris le mot vide, est noté $A^{*}$. Toute partie de $A^{*}$ s'appelle un langage. L'ensemble des mots de $A$ à l'exception du mot vide est un langage noté $A^{+}$.

Opérations rationnelles

Les opérations suivantes, définies sur les langages, sont appelées les opérations rationnelles. Soient $X$ et $Y$ deux parties de $A^{*}$, autrement dit deux langages :

1. la concaténation ou le produit de $X$ et $Y$, noté $XY$, est l'ensemble de mots $xy$, où $x$ est dans $X$ et $y$ est dans $Y$.

Par exemple, le produit de $\{ab,c\}$ et de $\{ba,c\}$ est $\{abba,abc,cba,cc\}$;

2. l'union ensembliste, de $X$ et $Y$, notée $X\cup Y$, est l'ensemble des mots appartenant à $X$ ou à $Y$.

Par exemple, l'union ensembliste de $\{ab,c\}$ et de $\{ba,c\}$ est $\{ab,c,ba\}$;

3. l'étoile de Kleene, notée $X^{*}$ est le plus petit langage qui contient le mot vide $\varepsilon$, le langage $X$, et qui est clos pour l'opération de concaténation. C'est aussi l'ensemble de tous les produits de tous les mots de $X$.

Par exemple, $\{a,ab\}^{\star }=\{\varepsilon ,a,aa,ab,aaa,aab,aba,aaaa,aaab,aaba,abaa,abab,\dots \}$.

Expressions rationnelles

Les expressions rationnelles sur l'alphabet $A$ sont des expressions obtenues à partir des lettres $a$ de $A$, par un nombre fini d'applications des opérations rationnelles suivantes :

1. L'opération $+$ ou $|$ (pour représenter l'union)
2. L'opération $\cdot$ (pour représenter le produit, ce point est d'ailleurs souvent omis)
3. L'opération $*$ (pour représenter l'étoile de Kleene, aussi appelée itération).

L'ensemble des expressions rationnelles sur un alphabet $A$ est noté $EReg(A)$. Il est défini par induction comme suit :

• $\forall a\in A:a\in EReg(A)$

• $\emptyset \in EReg(A)$

• $\forall \alpha \in EReg(A),\forall \beta \in EReg(A):(\alpha +\beta )\in EReg(A)$

• $\forall \alpha \in EReg(A),\forall \beta \in EReg(A):(\alpha \beta )\in EReg(A)$

• $\forall \alpha \in EReg(A):\alpha ^{*}\in EReg(A)$

Langages rationnels

Les langages rationnels ou langages réguliers ou encore langages reconnaissables utilisant un alphabet $A$ peuvent être définis de plusieurs façons équivalentes :

• ce sont les langages décrits par les expressions rationnelles sur l'alphabet $A$ ;
• ce sont les langages obtenus, à partir des lettres de $A$ et de l'ensemble vide, par l'utilisation d'un nombre fini d'opérations rationnelles ;
• ce sont les langages utilisant les lettres de $A$ qui sont reconnus par des automates finis, d'où le nom de langages reconnaissables.

L'ensemble des langages rationnels sur l'alphabet $A$ est le plus petit ensemble de langages stable pour les opérations rationnelles, et qui contient le langage vide $\emptyset$ , les langages réduits à une lettre et le langage composé du mot vide $\{\varepsilon \}$.

En utilisant la première définition, on peut dénoter un langage $L$ utilisant l'alphabet $A$ comme $L(e)$ où $e$ est un élément de $EReg(A)$. Et l'ensemble des langages rationnels, noté $Reg(A)$, est alors défini par induction à partir de $EReg(A)$ et des constantes 0 et 1 comme suit :

1. $L(0)=\emptyset$, $\ L(1)=\{\varepsilon \}$, $\ L(a)=\{a\}\,$ pour chaque lettre $a$ de $A$
2. $L(e+f)=L(e)\cup L(f)$, $\ L(e\cdot f)=L(e)L(f)$, $\ L(e^{\star })=L(e)^{\star }\,$pour tous $e$ et $f$ appartenant à $EReg(A)$.

Propriétés

Deux expressions rationnelles $e$ et $f$ sur un alphabet $A$ sont dites équivalentes si elles dénotent le même langage soit, exprimé plus formellement, si $L(e)=L(f)$.

Exemple : les expressions $(a^{\star }b)^{\star }a^{\star }$ et $(a+b)^{\star }$ sont équivalentes et dénotent un langage contenant tous les mots formés à partir des lettres $a$ et $b$.

Dotées d'un opérateur d'addition, d'un opérateur de produit et d'une relation d'équivalence, les expressions rationnelles sont des demi-anneaux, des algèbres de Kleene et des demi-anneaux étoilés complets.

Variantes de notation

Pour diminuer les parenthèses dans les expressions, on omet les parenthèses résultant de l'associativité des opérations, et de donner la plus haute priorité à l'étoile de Kleene, suivie de la concaténation, puis de l'union. Formellement, cela signifie que l'on identifie des expressions qui se déduisent l'une de l'autre par l'application de ces règles.

On ajoute parfois aussi, aux opérateurs sur les expressions, la fermeture $+$, donnant l'expression $e^{+}$. Le langage dénoté est donné par $L(e^{+})=L(e)^{+}$, au sens de opérateur plus.

En revanche, l'opérateur de complémentation ne fait pas partie des opérations définissant les expressions rationnelles. Par contre, on définit les expressions rationnelles étendues comme les expressions incluant aussi l'opérateur de complémentation.

Dans les expressions régulières fournis par de nombreux outils de programmation ou d'édition, comme Unix, qed, grep, Emacs, d'autres opérateurs sont généralement ajoutés, avec des propriétés qui les rendent capables de décrire des langages qui ne sont pas rationnels. Ces expressions ne sont donc pas strictement équivalentes aux expressions rationnelles définies formellement ci-dessus.

Expressions rationnelles et automates finis

Le théorème de Kleene

Le théorème de Kleene affirme que l'ensemble des langages rationnels sur un alphabet $A$ est exactement l'ensemble des langages sur $A$ reconnaissables par automate fini. C'est le résultat fondamental pour la théorie et les applications.

La correspondance entre langages rationnels et langages reconnaissables est effective : pour toute expression régulière, on peut construire effectivement, et de plusieurs façons, des automates qui reconnaissent le langage dénoté par l'expression. Réciproquement, à tout automate fini on peut associer une expression régulière qui dénote le langage reconnu par l'automate. Là aussi, il y a plusieurs méthodes, et on peut obtenir des expressions différentes, mais équivalentes.

Hauteur d'étoile

Exemple d'une expression rationnelle de hauteur d'étoile égale à 2.

La hauteur d'étoile d'une expression rationnelle $e$ est le nombre $h(e)$ défini récursivement comme suit :

1. $h(0)=h(1)=h(a)=0\,$ pour toute lettre $a$
2. $h(e+f)=h(e\cdot f)=\max\{h(e),h(f)\}$
3. $h(e^{\star })=1+h(e)$.

En d'autres termes, la hauteur d'étoile d'une expression est le nombre maximum d'étoiles imbriquées. Par exemple, $h((a+b)^{\star })=1$ et $\ h((a^{\star }b)^{\star }a^{\star })=2$. Ces deux expressions dénotent le même langage, on voit donc que la notion de hauteur d'étoile est liée à l'expression.

La hauteur d'étoile d'un langage rationnel $X$ est le minimum des hauteurs d'étoile des expressions dénotant ce langage, c'est-à-dire :

$h(X)=\min\{h(e)\mid L(e)=X\}{}$

La question de l'existence de langages rationnels de hauteur d'étoile arbitrairement grande a été posée par Lawrence C. Eggan et résolue par Françoise Dejean et Marcel-Paul Schützenberger. Le problème de la hauteur d'étoile est de calculer, de manière efficace, la hauteur d'étoile d'un langage rationnel. Ce problème a résisté longtemps. Résolu la première fois en 1982^{[réf. souhaitée]} , sa solution a été ensuite améliorée, notamment par Daniel Kirsten en 2005.

Une question qui est toujours ouverte en 2016 concerne le problème de la hauteur d'étoile généralisée (en): si l'on autorise, comme opérateur supplémentaire, l'opérateur de complémentation, le pouvoir de description des expressions rationnelles (appelées généralisées) augmente bien entendu. On ne sait toujours pas s'il existe des langages rationnels de hauteur d'étoile généralisée arbitrairement grande (ni même de hauteur 2). Les langages de hauteur d'étoile généralisée 0 sont les « langages sans étoile » caractérisés par Marcel-Paul Schützenberger^{[réf. nécessaire]}.

Le théorème de Myhill-Nerode

À tout langage $L$ de $A^{*}$, on associe une relation d'équivalence $\equiv _{L}$ sur $A^{*}$ définie de la façon suivante :

$u\equiv _{L}v\,$ si et seulement si pour tout mot $x$ de $A^{*}$, on a $ux\in L\iff vx\in L$

Cette relation est une équivalence régulière à droite car elle est compatible avec la concaténation : si $u\equiv _{L}v$ alors $ux\equiv _{L}vx$.

Le théorème de Myhill-Nerode affirme qu'un langage $L$ est rationnel si et seulement si la relation $\equiv _{L}$ est d'indice fini, c'est-à-dire possède un nombre fini de classes d'équivalence.

Ce théorème a un intérêt théorique puisqu'il donne une caractérisation intrinsèque de l'automate minimal reconnaissant un langage donné. En effet, les états de l'automate fini déterministe minimal reconnaissant un langage rationnel $L$ sont en bijection avec les classes d'équivalence de la relation $\equiv _{L}$. Ce résultat est aussi à la base d'un algorithme efficace de minimisation, appelé l'algorithme de Moore.

Propriétés

Propriétés algébriques

• L'ensemble des langages rationnels est stable, en plus de l'union, du produit et de l'étoile, par complémentation et donc par intersection.

• L'ensemble des langages rationnels est fermé par image miroir : si $X$ est un langage rationnel, alors $X^{r}$ est rationnel, où $X^{r}$ est l'ensemble des retournés ou images miroir des mots de $X$.

• L'ensemble des préfixes, l'ensemble des suffixes, l'ensemble des facteurs, l'ensemble des sous-mots des mots d'un langage rationnel sont des langages rationnels.

• Pour tout langage rationnel $X$ et tout mot $u$, le quotient gauche
         $u^{-1}X=\{w\mid uw\in X\}$
  est un langage rationnel^{[réf. souhaitée]}.

• L'image d'un langage rationnel par un morphisme ou un morphisme inverse est un langage rationnel.

• L'image, par une substitution rationnelle, d'un langage rationnel est un langage rationnel (une substitution $\sigma$ de $A^{*}$ dans $B^{*}$ est une application de $A^{*}$ dans l'ensemble des parties de $B^{*}$ qui est un morphisme pour la structure de monoïde multiplicatif sur l'ensemble des parties de $B^{*}$, c'est-à-dire $\sigma (\varepsilon )=\{\varepsilon \}$ et $\sigma (xy)=\sigma (x)\sigma (y)$, où le produit dans le membre droit est le produit des parties de $B^{*}$. Une substitution rationnelle est une substitution $\sigma$ telle qui $\sigma (a)$ est un langage rationnel sur $B$ pour toute lettre $a$ de $A$).

• Le produit de mélange (en anglais shuffle product) de deux langages rationnels est un langage rationnel (le produit de mélange de deux mots $x$ et $y$ est l'ensemble des mots $x_{1}y_{1}x_{2}y_{2}\cdots x_{n}y_{n}$, où les $x_{i}$ et les $y_{i}$ sont des mots, tels que $x=x_{1}x_{2}\dots x_{n}$ et $y=y_{1}y_{2}\dots y_{n}$. Le produit de mélange de deux langages est la réunion des produits de mélange des mots des langages).

• La première moitié d'un langage $X$ est le langage
       $P(X)=\{p\in A^{\star }\mid \exists q\in A^{\star }:|p|=|q|{\text{ et }}pq\in X\}$.
  En d'autres termes, on coupe au milieu des mots de $X$ de longueur paire et on garde la première partie. Si $X$ est un langage rationnel, alors $P(X)$ est un langage rationnel.

• Si l'on supprime, dans les mots d'un langage rationnel, une lettre sur deux, le résultat est encore un langage rationnel.

Propriétés décidables

La plupart des questions que l’on pose habituellement pour des langages formels sont décidables pour les langages rationnels, et les démonstrations sont souvent faciles. On suppose que le langage ou les langages sont donnés par des automates finis. Les propriétés sont donc plutôt des propriétés des automates finis, ou simplement des graphes finis sous-jacents. Les propriétés suivantes sont décidables :

• Un mot donné appartient-il à un langage rationnel : il suffit de tester si le mot est reconnu par l’automate.
• Le langage rationnel est-il vide : pour cela, on teste si, parmi les états accessibles, figure un état final.
• Le langage contient-il tous les mots : il suffit de tester si le complémentaire est vide.
• Le langage est-il fini : pour ce faire, on teste si l'automate, une fois émondé^[pas clair], a un graphe sous-jacent sans circuit.
• Deux langages rationnels $L$ et $M$ étant donnés, a-t-on l'inclusion $L\subset M$, l'égalité $L=M$ ?
  L'inclusion $L\subseteq M$ se ramène à tester que langage $L\cap {\bar {M}}$ est vide, où ${\bar {M}}$ est le langage complément de $M$. Comme ce langage est lui-même rationnel, la décidabilité découle de la deuxième des propriétés ci-dessus. L'égalité équivaut à la double inclusion.

Une question plus difficile concerne la complexité algorithmique de ces problèmes de décision; par exemple, le calcul du complémentaire d'un langage demande la déterminisation^[Quoi ?] de l'automate, et peut donc exiger une place et un temps exponentiel^{[réf. souhaitée]}.

Lemme de l'étoile

Le lemme de l'étoile, aussi appelé lemme d'itération ou, en anglais, pumping lemma, donne une propriété nécessaire des langages rationnels. Il s'énonce informellement comme suit : dans tout mot assez long $w$ d'un langage rationnel $X$, on peut trouver un facteur $u$ non vide que l'on peut répéter un nombre arbitraire de fois dans ce mot pour créer des mots appartenant au langage $X$.

C'est en fait une propriété d'un automate reconnaissant le langage $X$ : un mot assez long reconnu par l'automate contient nécessairement un circuit qui l'on peut parcourir un nombre arbitraire de fois, tout en restant reconnu par l'automate.

Ce lemme n'est pas une caractérisation des langages rationnels : il existe des langages qui vérifient la propriété d'itération mais qui ne sont pas rationnels. Mais il est fréquemment utilisé pour démontrer qu'un langage n'est pas rationnel.

Exemples et contre-exemples

Exemples de langages rationnels

Plusieurs exemples de langages rationnels sont indiqués ci-dessous, avec une explication de leur rationalité :

• Langage fini, donc notamment $A$ défini comme : $A=\bigcup _{a\in A}{L(a)}$;
• Langage $A^{*}$ ;
• Langage constitué de tous mots commençant par la lettre $a$ (dénoté par $aA^{*}$) ;
• Langage constitué de tous les mots se terminant par la lettre $a$ (dénoté par $A^{*}a$) ;
• Langage constitué de tous les mots contenant un mot donné. Par exemple, pour le mot $ab$, ce langage est dénoté par $A^{*}(ab)A^{*}$ ;
• Langage constitué de tous les mots ne contenant pas un mot donné. Par exemple, pour le mot $ab$, c'est le complémentaire du langage précédent ;
• Langage constitué de tous les mots de longueur paire (dénoté par $AA$) ;
• Langage constitué de tous les mots de longueur impaire (dénoté par $AAA$) ;
• Langage constitué de tous les mots qui contiennent un nombre pair d'une lettre donnée ;
• Langage constitué de tous les mots utilisant l'alphabet de $A$, sauf le mot vide : $A^{+}$(c'est le complémentaire dans $A^{*}$ du langage ne comprenant que le mot vide) ;
• Langage n'utilisant pas certaines lettres de $A^{*}$. Par exemple, pour les lettres $a$ et $b$, ce langage est le complémentaire dans $A^{*}$ de celui défini comme rationnel par $A^{*}aA^{*}bA^{*}$ ;
• Langage défini comme le quotient à gauche (ou à droite) de tout langage rationnel ;

• Langage constitué des notations décimales des entiers naturels sur l'alphabet : $0,1,2,3,4,5,6,7,8,9$ ;
• Langage constitué de tous les mots qui sont l'écriture en binaire d'un entier congruent à 2 modulo 5.

Exemples de langages non rationnels

Les langages suivants ne sont pas rationnels :

• L'ensemble de mots $\{a^{n}b^{n}:n\geq 0\}$

Démonstration

Cet ensemble étant infini, on peut y choisir un élément arbitrairement grand $a^{p}b^{p}$ auquel le lemme de l'étoile peut s'appliquer. Donc, si cet ensemble était un langage rationnel, il devrait exister pour un certain $k>0$ tel que le mot $a^{p+k}b^{p}$ fasse partie de ce langage, ce qui est impossible. Donc le langage constitué des mots $a^{n}b^{n}$ n'est pas rationnel.

• L'ensemble de mots $\{a^{n}b^{p}:n\geq p\geq 0\}$

Démonstration

Raisonnons par l'absurde. Notons $L$ le langage défini par $a^{n}b^{p}:n\geqslant p$ et $L'$ son complémentaire dans $Reg(A)$. Si $L$ est rationnel, $L'$ doit l'être. Or tous les mots de la forme $a^{n}b^{p}:n<p$ sont dans $L'$. Donc on peut choisir dans $L'$ un élément arbitrairement grand $a^{i}b^{j}$ avec $i$ suffisamment grand et $i<j$ auquel le lemme d'itération peut s'appliquer. Donc il doit exister un certain $k>0$ tel que pour tout $s>0$ le mot $a^{i+sk}b^{j}$ appartienne à $L'$, ce qui est impossible car pour $sk$ assez grand $i+sk>j$ et le mot $a^{i+sk}b^{j}$ est dans $L$, donc ne peut être dans $L'$. Donc le langage constitué des mots $L'$ n'est pas rationnel, et le langage $L$ constitué des mots $a^{n}b^{p}:n\geqslant p$ ne l'est pas non plus.

• L'ensemble de mots $\{a^{n}b^{p}:n\neq p\}$

Démonstration

Raisonnons par l'absurde. Notons $L$ le langage défini par $\{a^{n}b^{p}:n\neq p\}$ et $L'$ son complémentaire dans $Reg(A)$. Si $L$ est rationnel, $L'$ doit l'être. Or tous les mots de la forme $a^{n}b^{n}$ sont dans $L'$. Donc on peut choisir dans $L'$ un élément arbitrairement grand $a^{i}b^{i}$ avec $i$ suffisamment grand auquel le lemme de l'étoile peut s'appliquer. Donc il doit exister un certain $k>0$ tel que le mot $a^{i+k}b^{i}$ appartienne à $L'$, ce qui est impossible car le mot $a^{i+k}b^{i}$ doit être dans $L$. Donc le langage $L'$ n'est pas rationnel, et le langage $L$ constitué des mots $\{a^{n}b^{p}:n\neq p\}$ ne l'est pas non plus.

• Une expression bien parenthésée est obtenue comme étant soit le mot vide, soit $(e)e'$ où $e$ et $e'$ sont bien parenthésées. L'ensemble des expressions bien parenthésées est aussi appelé le langage de Dyck. Ce n'est pas un langage rationnel.
• L'ensemble des mots palindromes sur un alphabet $A$ à plusieurs lettres

Démonstration

Raisonnons par l'absurde. Notons $P$ l'ensemble des mots palindromes sur l'alphabet $A$, alphabet contenant au moins deux lettres : a et b. Et rappelons que les mots palindromes sont ceux dont la lecture de gauche à droite est identique à la lecture de droite à gauche. $P$ contient donc notamment tous les mots de la forme $a^{n}b^{p}a^{n}:n>0,p>0$. Si $P$ est rationnel, alors on peut choisir dans $P$ un mot de ce dernier type avec $n$ assez grand pour pouvoir lui appliquer le lemme de l'étoile. Donc il doit exister un certain $k>0$ tel que le mot $a^{n+k}b^{p}a^{n}$ appartienne à $P$, ce qui est impossible car le mot $a^{n+k}b^{p}a^{n}$ n'est pas palindrome. Donc le langage $P$ n'est pas rationnel. Remarque : si l'alphabet $A$ n'a qu'une seule lettre, tous les mots du langage $A$ (ou $A^{*}$) sont palindromes.

Langages rationnels sur une seule lettre

Lorsque l'alphabet est composé d'une seule lettre $a$, on connait une caractérisation précise des langages rationnels. Pour tout langage $L$ de $a^{*}$, on note $X(L)$ l'ensemble des exposants de $L$, soit

$X(L)=\{n\in \mathbb {N} \mid a^{n}\in L\}$.

On a alors la propriété suivante :

Un langage $L$ sur $a^{*}$ est rationnel si et seulement si son ensemble d'exposant $X(L)$ est la réunion d'un ensemble fini de progressions arithmétiques.

Une progression arithmétique est un ensemble de la forme $\{r+ns\mid n\in \mathbb {N} \}$. Dans cette définition, la raison $s$ est positive ou nulle; quand elle est nulle, la progression est réduite au singleton $r$ ; on autorise aussi $r$ à être plus grand que $s$. Par exemple, il existe un langage rationnel sur une lettre dont l'ensemble des exposants est la réunion des entiers pairs plus grand que 10, et des entiers 3 et 5. Ce langage est $\{a^{3},a^{5}\}\cup (a^{2})^{*}a^{10}$.

Pour démontrer que le langage rationnel de l'énoncé a bien la forme indiquée, on considère un automate fini déterministe complet qui reconnaît $L$. Soit $q_{0}$ son état initial, et soit

$q_{h}=q_{h-1}\cdot a=q_{0}\cdot a^{h}$

l'état atteint après la lecture de $h$ lettres. La suite d'états

$q_{0},q_{1},\ldots ,q_{n},\ldots$

est ultimement périodique; en effet, l'automate n'a qu'un nombre fini d'états, donc il existe des entiers $n$ et $m>n$ tels que $q_{n}=q_{m}$, et alors $q_{n+k}=q_{m+k}$ pour tout $k>0$. Soit $n$ le plus petit indice tel que $q_{n}$ apparaît deux fois, et donc une infinité de fois, dans la suite des états, et soit $s>0$ le plus petit entier tel que $q_{n}=q_{n+s}$. L'ensemble des mots qui amènent l'état initial $q_{0}$ sur l'état $q_{h}$ est égal au singleton $a^{h}$ si $h<n$, et est égal à $a^{h}(a^{s})^{*}$ sinon. Dans les deux cas, l'ensemble des exposants est une progression arithmétique. Comme le langage reconnu est une réunion de langages de ce type, il est de la forme annoncée.

La réciproque se démontre tout simplement : chaque langage de la forme $a^{h}(a^{s})^{*}$ est visiblement rationnel, et une réunion finie de langages de cette forme l'est encore.

Dans cette preuve, on utilise les expressions rationnelles dans une des directions, et la structure de l'automate fini dans l'autre.

Nombre de mots de longueur donnée dans un langage rationnel

Pour un langage rationnel $L$ donné, notons $s_{n}$ le nombre de mots de longueur $n$ de $L$. Par exemple, si $L$ est l'ensemble des mots sur deux lettres $a,b$ ne contenant pas deux $b$ consécutifs, on a

$L=\{\varepsilon ,a,b,aa,ab,ba,aaa,aab,aba,baa,bab,\ldots \}$

et la suite des nombres de mots est

$1,2,3,5,\ldots$.

C'est en fait la suite des nombres de Fibonacci.

La série génératrice de la suite des longueurs est la série

$f_{L}(z)=\sum _{n=0}^{\infty }s_{n}z^{n}$.

Dans l'exemple, c'est la série

$f_{L}(z)=1+2z+3z^{2}+5z^{3}+\cdots ={\frac {1+z}{1-z-z^{2}}}$.

L'observation importante est que la série génératrice des longueurs, pour un langage rationnel, est toujours une fraction rationnelle. La suite des longueurs vérifie donc une relation de récurrence linéaire à coefficients constants. La série et la relation de récurrence sont effectivement calculables.

Le fait que la série reste rationnelle peut être exploité pour montrer que certains langages ne sont pas rationnels. Par exemple, pour le langage de Dyck sur une paire de parenthèses, le nombre de mots de longueur $2n$ est le $n$-ième nombre de Catalan, et la série génératrice des nombres de Catalan n'est pas rationnelle.

Automate de Fibonacci.

Soit ${\mathcal {A}}=(Q,{\mathcal {F}},I,T)$ un automate fini sur un alphabet A reconnaissant un langage $L$ donné. Pour simplifier les notations, on suppose que $Q=\{1,2,\ldots ,k\}$. On note $L_{i,j}$ le langage des mots $w$ qui sont étiquettes de chemins de $i$ à $j$, de sorte que

$L=\bigcup _{i\in I,t\in T}L_{i,t}$.

Pour l'exemple de l'automate de Fibonacci, on a $L=L_{1,1}\cup L_{1,2}$. On suppose maintenant que l'automate ${\mathcal {A}}$ est déterministe - ou inambigu - et on note

$s_{i,j}(n)=\mathrm {Card} \{w\mid i\cdot w=j,\ |w|=n\}$.

C'est donc le nombre de mots de longueur $n$ qui sont étiquettes de chemins de $i$ à j. Il en résulte que le nombre de mots de longueur $n$ du langage $L$ est

$s_{n}=\sum _{i\in I,t\in T}s_{i,t}(n)$.

Pour l'exemple de l'automate de Fibonacci, on a $s_{n}=s_{1,1}(n)+s_{1,2}(n)$. Les nombres $s_{i,j}(n)$ sont des coefficients d'une matrice associée naturellement à l’automate ${\mathcal {A}}$. Soit $M=(m_{i,j})$ la matrice d'ordre $k$ définie par

$m_{i,j}=\mathrm {Card} \{a\in A\mid i\cdot a=j\}$.

Le nombre $m_{i,j}$ est le nombre de transition de $i$ à $j$; on a donc $m_{i,j}=s_{i,j}(1)$ avec les notations précédentes. Pour l'exemple de l'automate de Fibonacci, on a

$M={\begin{pmatrix}1&1\\1&0\end{pmatrix}}$

Il est facile de vérifier que, parce que l’automate est déterministe ou inambigu, les coefficients de la puissance $n$-ième de $M$ sont précisément le nombre de mots de longueur $n$ entre les états, soit

$M^{n}=(s_{i,j}(n))$.

Le nombre de mots de longueur $n$ du langage est la somme des coefficients indicés par l'état initial et les états terminaux. Pour l'exemple de l'automate de Fibonacci, on a

$M^{2}={\begin{pmatrix}2&1\\1&1\end{pmatrix}}\ ,\quad M^{3}={\begin{pmatrix}3&2\\2&1\end{pmatrix}}\ ,\quad M^{4}={\begin{pmatrix}5&3\\3&2\end{pmatrix}}$

et plus généralement

$M^{n}={\begin{pmatrix}u_{n+1}&u_{n}\\u_{n}&u_{n-1}\end{pmatrix}}$,

où $u_{n}$ est le $n+1$-ième nombre de Fibonacci. Enfin, comme toute matrice, la matrice $M$ vérifie le théorème de Cayley-Hamilton, les suites $(s_{i,j}(n))_{n}\geq 0$ vérifient toutes la même relation de récurrence. Pour l'exemple de l'automate de Fibonacci, on a $M^{2}=M+I$, où $I$ est la matrice identité.

Autres caractérisations

Les langages rationnels sont aussi :

• les langages dont le monoïde syntaxique est fini ;
• les langages définissables dans S1S, la logique monadique du second ordre avec successeur (et aussi dans WS1S, la variante "weak", où la quantification du second ordre est sur les ensembles finis) ;
• les langages de type 3 dans la hiérarchie de Chomsky-Schützenberger : ce sont les langages qui peuvent être engendrés par une grammaire régulière, c'est-à-dire une grammaire linéaire droite (ou linéaire gauche) ;
• les langages reconnus par des machines de Turing qui n'écrivent pas sur leur bande (s'ils peuvent se déplacer dans les deux sens ce sont des automates finis bidirectionnels) ;
• les langages reconnus par des automates finis alternants ;
• les langages congruentiels définissables par certains systèmes de réécriture de mots.
• la plus petite famille de langages qui contient les langages singleton et est fermée par union, concaténation, itération, fermeture, union, complémentation, division, miroir et substitution.

Généralisation aux monoïdes quelconques

Les parties rationnelles et les parties reconnaissables peuvent être définis dans tout monoïde. La contrepartie est qu'en général, le théorème de Kleene n'y est pas vérifié, c'est-à-dire que toute partie reconnaissable n'est pas nécessairement rationnelle et vice-versa.

Dans un monoïde $M$, l'ensemble des parties rationnelles est défini comme dans le cas de l'ensemble des mots $A^{*}$: c'est la plus petite famille, au sens de l'inclusion, de parties de $M$ qui contient l'ensemble vide $\emptyset$ et les singletons, et est stable par toutes les opérations rationnelles. Il est à noter que l'opération étoile revient à prendre le sous-monoïde engendré par la partie: ainsi, $a^{*}$ est le monoïde engendré par l'élément $a$.

Pour ce qui est des parties reconnaissables, la définition par automates n'est plus appropriée car rien ne permet d'écrire un élément de $M$ comme produit d'éléments minimaux (les lettres dans le cas de $A^{*}$). On utilise alors une définition équivalente, et qui peut être généralisée à tous les monoïdes. Une partie $L$ de $M$ est reconnue par un monoïde $N$ s'il existe un morphisme de monoïdes $\Phi$ de $M$ sur $N$ et une partie $R$ de $N$ tels que $L=\Phi ^{-1}(R)$. Une partie reconnaissable de $M$ est alors une partie reconnue par un monoïde $N$ fini.

Cette définition est bien équivalente à la première pour l'ensemble des mots. Si $L$ est un langage rationnel, alors $L$ est reconnu par son monoïde syntaxique (il suffit de prendre pour $\Phi$ la projection canonique et pour $R$ l'ensemble des classes d'équivalence incluses dans $L$). Réciproquement, si $L$ est un langage reconnu par un monoïde fini $M$, alors l'automate $(M,A,\delta ,e,R)$ où:

• $e$ est l'élément neutre de $M$;
• $\delta$ est défini pour tout $q\in M$ et $a\in A$ par: $\delta (q,a)=q\Phi (a)$

reconnaît $L$. En effet, par hypothèse, on a $L=\Phi ^{-1}(R)$, et un mot $w$ est accepté si et seulement si $\delta (e,w)=\Phi (w)\in R$, donc si et seulement si $w$ appartient à $\Phi ^{-1}(R)$.

Le théorème de Kleene ne s'applique plus dans le cas général de monoïdes quelconques. Ainsi, une partie rationnelle pourra ne pas être reconnaissable et vice-versa. Néanmoins, on dispose d'un théorème dû à McKnight, qui recouvre une partie du théorème de Kleene et s'énonce ainsi: toute partie reconnaissable d'un monoïde $M$ est rationnelle si et seulement si $M$ admet une famille génératrice finie, c'est-à-dire est finiment engendrée.

Histoire

La théorie débute dans les années 1940. Warren McCulloch et Walter Pitts décrivent, en 1943, le système nerveux en modélisant les neurones par des automates simples. Le logicien Stephen Cole Kleene prouve, en 1951, ce que l'on appelle depuis le théorème de Kleene. En 1956, Edward F. Moore publie son algorithme de minimisation. En 1958, Anil Nerode et John Myhill publient leur caractérisation. En 1959, Michael Rabin et Dana Scott donnent, dans un célèbre article, un traitement rigoureux de la théorie des automates.

Du point de vue pratique, c'est Ken Thompson qui implémente les expressions rationnelles dans l'éditeur qed, puis l'éditeur ed sous Unix, et finalement dans grep. Depuis lors, les expressions rationnelles ont été largement utilisées dans les utilitaires tels que lex ainsi que dans les langages de programmation nés sous Unix, tels que expr, awk, Perl, Python… Une bonne partie d'entre eux reposent sur la bibliothèque regex, créée par en:Henry Spencer (en).

Voir aussi

• Théorème de Kleene
• Monoïde syntaxique
• Théorème des variétés d'Eilenberg
• Algorithme de Thompson

Bibliographie

En français

• Olivier Carton, Langages formels, Calculabilité et Complexité (Cours pour l'école normale supérieure), Paris, 2008, 217 p. (lire en ligne [PDF]). 
• David A. Madore, Théorie des langages : Notes de cours, Palaiseau, Télécom Paristech, 2023, 106 p. (lire en ligne [PDF]). 
• Marcel Masseron, Théorie des langages (Cours de maîtrise d'informatique), Paris, Université Paris Nord Institut Galilée, 2002, 178 p. (lire en ligne [PDF]). 
• Dominique Perrin, « Les débuts de la théorie des automates », Technique et science informatiques, vol. 14, n^o 4,‎ 1995, p. 409-433 (HAL hal-00793909, lire en ligne [PDF]). 
• Jacques Sakarovitch, Éléments de théorie des automates, Vuibert, 2003, 816 p. (ISBN 978-2-7117-4807-5)
  Traduction anglaise avec corrections: Elements of Automata Theory, Cambridge University Press 2009, (ISBN 9780521844253)
• Christine Solnon, Théorie des langages (Cours), Lyon, LIRIS, 30 p. (lire en ligne [PDF]). 

En anglais

• Françoise Dejean et Marcel-Paul Schützenberger, « On a Question of Eggan », Information and Control, vol. 9, n^o 1,‎ 1966, p. 23-2 (lire en ligne). 
• JohnE. Hopcroft et Jeffrey D. Ullman, Introduction to Automata Theory, Languages, and Computation, Addison Wesley, 1979, 418 p. (ISBN 0-201-02988-X, lire en ligne). 
• Daniel Kirsten, « Distance Desert Automata and the Star Height Problem », RAIRO - Informatique Théorique et Applications, vol. 39, n^o 3,‎ 2005, p. 455–509 (DOI 10.1051/ita:2005027, lire en ligne [PDF])
• S.C. Kleene, Representation of Nerve Nets and Finite Automata (Research Memorandum), Santa Monica, Rand Corporation, 1951, 101 p. (lire en ligne [PDF]). 
• Michael O. Rabin et Dana Scott, « Finite automata and their decision problems », IBM J. Res. Develop., vol. 3,‎ 1959, p. 114-125 (lire en ligne [PDF]).