Théorème de Rice

En informatique théorique, plus précisément en théorie de la calculabilité, le théorème de Rice énonce que toute propriété sémantique non triviale d'un programme est indécidable. Le théorème de Rice généralise l'indécidabilité du problème de l'arrêt. Le théorème est classique et fait l'objet d'exercices dans certains ouvrages de théorie de la calculabilité.

Explication de l'énoncé

L'animation montre une machine impossible : d'après le théorème de Rice, il n'existe pas de machine qui lit des codes sources de fonctions et qui prédit si la fonction ne retourne jamais un entier non nul.

Les propriétés sémantiques concernent le comportement d'un programme et s'opposent aux propriétés syntaxiques sur le code source du programme. Une propriété est non triviale si elle n'est ni vraie pour toute fonction calculable, ni fausse pour toute fonction calculable. La table suivante donne des exemples de propriétés non triviales syntaxiques et des propriétés non triviales sémantiques. Le théorème de Rice ne s'applique qu'aux propriétés sémantiques.

Propriétés syntaxiques (attention, le théorème de Rice ne s'applique pas)

Propriétés sémantiques (et donc indécidables par le théorème de Rice)

Le code source contient une instruction conditionnelle si...alors » Le code source contient moins de 10 fonctions

« le programme ne rend jamais de valeurs nulles » « le programme ne termine jamais par une erreur d'exécution » « le programme calcule le même résultat qu'un programme donné », autrement dit « le programme calcule une fonction calculable donnée ». « le programme calcule un résultat correct par rapport à sa spécification » autrement dit « la fonction calculée par le programme est bien celle définie par la spécification ». C'est une variante du précédent. « le programme contient un virus » « le programme accède à un site Web »

Impact en vérification de programmes

Pour vérifier qu'un programme est correct, on peut recourir au test, y compris à des batteries de tests avec couverture de code. Mais comme l'a souligné Edsger Dijkstra « Le test de programmes peut être une façon très efficace de montrer la présence de bugs, mais est désespérément inadéquat pour prouver leur absence ».

La formulation pragmatique du théorème de Rice est qu'aucune méthode automatique d'analyse statique de programmes ne permet de décider, à partir du code source d'un programme, si la fonction qui associe les entrées à la sortie de ce programme satisfait ou non une propriété intéressante (non triviale) donnée.

En pratique, on adopte des stratégies pour contourner les limitations du théorème de Rice :

1. Vérification de programmes avec seulement un nombre fini d'états.
2. Méthode de vérification partiellement automatisée.
3. Méthodes à base d'approximations.
4. Méthodes restreignant l'ensemble des programmes sur lesquell on veut démontrer la propriété.
5. Restrictions raisonnables de l'ensemble des fonctions calculables.

Ces stratégies ont donné lieu à différentes approches pour vérifier des programmes : l'interprétation abstraite, la vérification de modèles (model checking) et la preuve semi-automatisée de programmes par assistant de preuve. Aucune de ces méthodes n'a une portée universelle. Des recherches en cours visent à étendre les domaines d'application des vérificateurs, donc à diminuer les restrictions citées ci-dessus, mais le théorème de Rice dit que le vérificateur absolu n'existe pas ou comme disait Frederick Brooks « il n'y a pas de balle en argent ».

Un cas particulier introductif : la fonction réalisée par un programme

Comme introduction au théorème de Rice, considérons le cas spécifique où la propriété du programme soumise à décision est le fait que le programme calcule une fonction donnée que nous appelons $f$ ; on dit aussi que le programme « réalise » la fonction $f$. Par rapport à ce que nous avons dit dans l'introduction et le premier paragraphe, la propriété à décider sur la fonction associée au programme est l'égalité à $f$. Autrement dit, on veut savoir si la fonction calculée par le programme est la fonction $f$ ou non. Nous allons considérer trois cas de généralité croissante.

La fonction est la fonction nulle part définie

Si la fonction calculée par le programme est celle qui n'est pas définie, cela signifie que le programme ne se termine jamais, quelle que soit la valeur en entrée. Décider cette propriété n'est pas possible en application du théorème de l'Indécidabilité de l'arrêt qui peut se formuler en disant qu'il n'y a pas d'algorithme pour décider si un programme réalise la fonction nulle part définie.

La fonction est la fonction carré

Supposons que nous souhaitions décider si un programme réalise la fonction carré, autrement dit, réalise la fonction $x\mapsto x^{2}$. Il faut que nous puissions décider si le programme

programmeCarré_p (x) =

$p$(x);

x * x

où $p$ est un programme quelconque, calcule effectivement la fonction $x\mapsto x^{2}$ pour une valeur $a$, sans être non défini sur $a$. Pour décider si le programme programmeCarré_p calcule la fonction carré, il faut décider si $p$ se termine sur $a$. Il faut donc décider l'arrêt de $p$ sur $a$. C'est ni plus ni moins le problème de l'arrêt, qui, comme l'on sait, est indécidable. Donc décider si un programme calcule le carré de la valeur qu'on lui donne en entrée est indécidable.

La fonction est une fonction quelconque

On peut dans ce cas aussi ramener la décision de la fonction calculée par un programme pour une fonction $f$ quelconque au problème de l'arrêt, il suffit de remplacer x * x par $f$(x), à savoir décider si le programme

truc_p (x) =

$p$(x);

$f$(x)

calcule la fonction $f$. On en conclut donc qu'étant donnée une fonction $f$, décider si un programme calcule la fonction $f$ est indécidable.

Différentes présentations

Dans cette section, nous exposons différentes versions du théorème de Rice dans la littérature.

Version avec des machines de Turing

Dans les ouvrages de théorie de la calculabilité, le théorème de Rice est souvent énoncé avec l'appui des machines de Turing. Wolper, dans son livre Introduction à la Calculabilité, énonce que toute propriété non triviale sur les langages récursivement énumérables est indécidable. On rappelle qu'un langage est récursivement énumérable s'il est accepté par une machine de Turing. Wolper insiste bien qu'il s'agit d'une propriété sur les langages acceptés par les machines de Turing et non pas sur les machines de Turing, c'est-à-dire une propriété sémantique et non pas syntaxique.

Version avec des programmes

Olivier Ridoux et Gilles Lesventes proposent une propriété dite « extensionnelle » (i.e., sémantique) et non triviale sur des programmes.

Théorème de Rice pour les fonctions

Le théorème de Rice peut être exprimé du point de vue des fonctions calculées par les programmes. On suppose que l'on travaille avec un langage de programmation Turing-complet. Soit $\phi _{p}$ la fonction calculée par le programme p. $\phi _{p}(y)$ est donc le résultat de l'évaluation du programme p sur l'entrée $y\in \mathbb {N}$. Si le programme p ne se termine pas sur l'entrée $y$, $\phi _{p}(y)$ n'est pas défini. Comme il existe des programme qui ne se terminent pas, la fonction $\phi _{p}$ est partielle. Notons FC l'ensemble de toutes les fonctions calculables partielles de $\mathbb {N}$ dans $\mathbb {N}$. Soit F $\subseteq$ FC. Notons P_F l'ensemble {p | $\phi _{p}\in$ F}, c'est-à-dire l'ensemble des programmes p tels que la fonction $\phi _{p}$ soit dans F. Le théorème de Rice dit que P_F est récursif si et seulement si F=∅ ou F=FC.

Théorème de Rice pour les ensembles

Le théorème de Rice pour les fonctions calculables peut également être exprimé du point de vue des ensembles récursivement énumérables. Notons RE la classe de tous les sous-ensembles de $\mathbb {N}$ récursivement énumérables. Soit E $\subseteq$ RE. Notons P l'ensemble des programmes p qui décident un ensemble A $\in$ E (i.e. y $\in$ A ssi l'exécution de p se termine sur l'entrée y). Le théorème de Rice dit que P est récursif si et seulement si E = ∅ ou E=RE.

Le théorème de Rice ci-dessus exprime l'indécidabilité de propriétés portant sur les ensembles récursivement énumérables. Il est cependant possible de caractériser parmi de telles propriétés celles qui sont semi-décidables. Une propriété Prop sur les ensembles récursivement énumérables est dite monotone si, pour tous ensembles récursivement énumérables A et B tels que A $\subseteq$ B, on a Prop(A) $\Rightarrow$ Prop(B). Par exemple, « A est un ensemble fini » n'est pas monotone, alors que « A contient l'élément x » l'est. Soit Prop une propriété sur les ensembles récursivement énumérables et E_Prop $\subseteq$ RE la classe des ensembles récursivement énumérables qui satisfont Prop. Notons P_A l'ensemble des programmes p qui décident un ensemble A $\in$ E (i.e. y $\in$ A ssi l'exécution de p se termine sur l'entrée y). Cette variante du théorème de Rice dit que si P_EProp est récursivement énumérable, alors Prop est monotone.

Démonstration du théorème de Rice

Démonstration pour les ensembles

On^{[réf. nécessaire]} montre que la décision du problème de l'arrêt peut se réduire à la décision de toute propriété non triviale sur un ensemble récursivement énumérable. On représente tout ensemble récursivement énumérable par une machine de Turing qui l'accepte. Soit P une propriété décidable et non triviale sur les ensembles récursivement énumérables. Soit P(∅)= « Faux » (si ce n'est pas le cas, on raisonne pareillement avec la négation de P). Donc, il existe un ensemble récursivement énumérable A qui satisfait P. Soit K une machine de Turing qui accepte A. P étant décidable, il existe donc une machine de Turing MP qui, pour toute représentation d'une machine de Turing, décide si l'ensemble récursivement énumérable accepté par cette machine satisfait P ou non.

Dès lors, on construit une machine de Turing H prenant en entrée la représentation d'une machine de Turing M suivie d'une entrée x. L'algorithme de H est le suivant :

1. Construire la représentation d'une machine de Turing T qui, sur une entrée d :

• Simule l'exécution de M sur x
• Simule l'exécution de K sur d et renvoie le résultat.

2. Simuler l'exécution de MP sur la représentation de T et renvoyer le résultat.

Si M s'arrête sur x, l'ensemble accepté par T est A. Cet ensemble satisfaisant P, la seconde phase de l'algorithme renverra « Vrai ». Si M ne s'arrête pas sur x, l'ensemble accepté par T est ∅. Cet ensemble ne satisfaisant pas P, la seconde phase de l'algorithme renverra « Faux ».

La machine H calcule donc de manière totale le problème de l'arrêt. Celui-ci étant indécidable, par contradiction, P est donc indécidable.

Une démonstration similaire peut être réalisée pour démontrer le théorème de Rice pour les fonctions.

Démonstration pour les fonctions (par le théorème du point fixe de Kleene)

Le théorème de Rice pour les fonctions peut se démontrer par le théorème du point fixe de Kleene. Le théorème du point fixe de Kleene dit que pour tout transformateur de programme T qui est une fonction totale, il existe un programme p tel que les programmes p et T(p) calculent la même fonction ($\phi _{p}=\phi _{T(p)}$).

Soit une propriété $F$ non triviale ($F\neq \emptyset$ et $F\neq$FC). Supposons par l'absurde que P = {p | $\phi _{p}\in$ F} est récursif.

Comme F est non triviale, il existe f $\in F$ et g $\in FC\setminus F$. Les fonctions f et g étant calculables, il existe deux programmes p et q avec $\phi _{p}$ = f et $\phi _{q}$ = g. Définissons le transformateur de programmes T :

T(x) = q si x $\in$ P

T(x) = p si x $\not \in$ P

Comme P est récursif, T est une fonction totale calculable. Par le théorème du point fixe de Kleene, il existe un programme n tel que $\phi _{n}=\phi _{T(n)}$. Procédons maintenant par étude de cas sur la valeur de T(n) :

• Si T(n)=p, par définition de T, on a n $\not \in$ P. Comme $\phi _{n}=\phi _{T(n)}$, T(n) $\not \in$ P. Or T(n)=p$\in$ P. Contradiction.
• Si T(n)=q, alors n $\in$ P. Comme $\phi _{n}=\phi _{T(n)}$, T(n) $\in$ P. Or T(n)=q $\not \in$ P. Contradiction.

Démonstration pour les ensembles (variante du théorème)

De manière analogue à la démonstration du théorème de Rice pour les ensembles, on montre que la semi décision de la négation du problème de l'arrêt peut se réduire à la semi-décision de toute propriété non-monotone sur les ensembles récursivement énumérables.

Soit P une propriété non-monotone et semi-décidable. Il existe donc deux ensembles récursivement énumérables A et B, calculés respectivement par des machines de Turing MA et MB tels que :

• A est inclus dans B
• A satisfait P
• B ne satisfait pas P.

De plus, il existe une machine de Turing MP qui, pour toute représentation d'une machine de Turing, s'arrête et accepte si l'ensemble récursivement énumérable accepté par cette machine satisfait P.

Dès lors, on peut construire une machine de Turing H prenant en entrée la représentation d'une machine de Turing M suivie d'une entrée x dont l'algorithme est le suivant :

1 Construire la représentation d'une machine de Turing T qui, sur une entrée y :

1 Exécute en parallèle

• MA sur y
• MB sur y
• M sur x

2 Accepte y si

• MA accepte y ou bien
• MB accepte y ET M s'arrête sur x

2 Exécuter MP sur la représentation de T et renvoyer le résultat.

Par « exécuter en parallèle », on entend que la machine T exécute un pas MA sur y, puis un pas de MB sur y, puis un pas de M sur x, puis un second pas de MA sur y, et ainsi de suite. Autrement dit, on «entrelace» les pas de calcul d'une machine avec ceux de l'autre machine.

Si M s'arrête sur x, T accepte y si, et seulement si MA ou MB accepte y, et comme A est inclus dans B, cela revient à dire si et seulement si y appartient à B. Donc, T accepte exactement l'ensemble B, qui, par hypothèse, ne vérifie pas P. Par conséquent, MP n'accepte pas T. (P étant supposé semi-décidable, MP peut même ne pas s'arrêter du tout) Si M ne s'arrête pas sur x, T accepte y si et seulement si y appartient à A. T accepte donc exactement l'ensemble A qui, par hypothèse, satisfait P. Par conséquent, MP accepte T (et finit donc par s'arrêter, par définition de la semi-décidabilité). La machine H calcule donc la négation du problème de l'arrêt. Celui-ci n'étant pas semi-décidable, par contradiction, P ne peut donc pas être semi-décidable.

Notes et références

Références

• (en) Hartley Rogers, Jr. (en), Theory of Recursive Functions and Effective Computability, MIT Press, (ISBN 0262680521), page 34
• (en) H. G. Rice, Classes of Recursively Enumerable Sets and Their Decision Problems, Transactions of the American Mathematical Society, volume 74, numéro 2, mars 1953 (JSTOR)
• Pierre Wolper, Introduction à la calculabilité, InterÉditions, 1991, (ISBN 2100048538)
• Olivier Carton, Langages formels, calculabilité et complexité, 2008 [détail de l’édition] (lire en ligne)
• (en) Neil D. Jones, Computability and Complexity From a Programming Perspective, MIT Press, (ISBN 0262100649)

• Olivier Ridoux et Gilles Lesventes, Calculateurs, calculs, calculabilité, Dunod, coll. « Sciences sup », 2008, 204 p. (ISBN 978-2-10-051588-2), Chapitre 4
• (en) D. Mandrioli, C. Ghezzi, Theoretical Foundations of Computer Science, John Wiley & Sons, 1987; (ISBN 0-471-83834-9), pages 174-175
• (en) D.S. Bridges, Computability, A Mathematical Sketchbook, Springer, (ISBN 0387941746), 1994, pages 78 et 85.
• (en) M. Machtey, P. Young Introduction to the General Theory of Algorithms, North Holland, 1978, pages 102 et 106
• (en) Martin Davis, Ron Sigal Elaine Weyuker, Computability, Complexity, and Languages (2nd ed), Morgan Kaufmann, (ISBN 9780122063824), 1994, p. 609, page 103
• (en) Nicholas Pippenger, Theories of computability, Cambridge University Press, (ISBN 0-521-55380-6), 1997, page 148
• (en) John E. Hopcroft, Rajeev Motwani, Jeffrey D. Ullman , Introduction to Automata Theory, Languages, and Computation (3rd Edition), Addison-Wesley, (ISBN 0321462254), 2006, page 307