Automate probabiliste

En mathématiques et en informatique théorique, et notamment en théorie des automates, un automate probabiliste est une généralisation des automates finis non déterministes; chaque transition de l'automate est équipée d'une probabilité (un nombre réel entre 0 et 1). Les transitions sont représentées de manière compacte par des matrices qui sont des matrices stochastiques. Les langages reconnus par les automates probabilistes sont appelés langages stochastiques; ils comprennent, et étendent, la famille des langages rationnels. En particulier, le nombre de langages stochastiques est non dénombrable (alors que celui des langages rationnels est dénombrables).

Le concept d'automate probabiliste a été introduit par Michael O. Rabin en 1963^[1],[2],[3]. Une extension conduit aux automates quantiques.

Un automate probabiliste est formé d'un automate fini non déterministe, où de plus chaque transition est équipée d'une probabilité, c'est-à-dire d'un nombre réel entre 0 et 1 vérifiant une certaine condition de cohérence.

Comme pour une automate fini (non déterministe) usuel, une automate probabiliste sur un alphabet ${\displaystyle A}$ est composé des données suivantes :

• un ensemble fini d'états, noté ${\displaystyle Q}$ ;
• un état initial ${\displaystyle i}$, élément de ${\displaystyle Q}$ ;
• un ensemble ${\displaystyle T}$ d'états terminaux ou finals ;
• un ensemble ${\displaystyle {\mathcal {F}}\subset Q\times A\times Q}$ de transitions.

De plus, chaque transition ${\displaystyle (p,a,q)}$ de ${\displaystyle {\mathcal {F}}}$ porte un nombre réel positif ${\displaystyle \pi (p,a,q)}$, appelé sa probabilité, avec la condition que, pour chaque état ${\displaystyle p}$ et chaque lettre ${\displaystyle a}$, la somme des ${\displaystyle \pi (p,a,q)}$, pour ${\displaystyle (p,a,q)}$ dans ${\displaystyle {\mathcal {F}}}$, est égal à 1.

Cette condition s'exprime plus simplement en posant ${\displaystyle \pi (p,a,q)=0}$ si ${\displaystyle (p,a,q)}$ n'est pas une transition. Alors elle revient à :

${\displaystyle \sum _{q\in Q}\pi (p,a,q)=1}$,

pour tout état ${\displaystyle p}$ et toute lettre ${\displaystyle a}$.

On définit une ${\displaystyle Q\times Q}$-matrice ${\displaystyle P(a)}$ pour chaque lettre ${\displaystyle a}$, par

${\displaystyle P(a)_{p,q}=\pi (p,a,q)}$

La condition sur la distribution des probabilités s'exprime alors par la condition que les matrices P(a) sont de matrices stochastiques.

On étend la fonction ${\displaystyle \pi }$ aux mots comme suit: Soit ${\displaystyle w}$ un mot, et soit ${\displaystyle p{\xrightarrow {w}}q}$ un chemin de ${\displaystyle p}$ à ${\displaystyle q}$ d'étiquette ${\displaystyle w}$. La probabilité de ce chemin est le produit des probabilités des transitions qui le composent. La probabilité ${\displaystyle \pi (p,w,q)}$ est défini comme la somme des probabilités des chemins ${\displaystyle p{\xrightarrow {w}}q}$ de ${\displaystyle p}$ à ${\displaystyle q}$ d'étiquette ${\displaystyle w}$. Cette définition s'exprime matriciellement comme suit: on pose ${\displaystyle w=a_{1}a_{2}\cdots a_{n}}$, et on définit la ${\displaystyle Q\times Q}$-matrice ${\displaystyle P(w)}$ comme le produit des matrices ${\displaystyle P(a_{1}),P(a_{2}),\ldots ,P(a_{n})}$ :

${\displaystyle P(w)=P(a_{1})P(a_{2})\cdots P(a_{n})}$.

Alors on a

${\displaystyle P(w)_{p,q}=\pi (p,w,q)}$.

La probabilité d’acceptation d'un mot ${\displaystyle w}$ dans l'automate probabiliste ${\displaystyle {\mathcal {A}}}$ est la somme des probabilités ${\displaystyle \pi (i,w,t)}$, où ${\displaystyle i}$ est l'état initial et où${\displaystyle t}$ parcourt les états terminaux. On la note ${\displaystyle \pi _{\mathcal {A}}(w)}$. Cette valeur aussi s'exprime matriciellement. C'est le nombre

${\displaystyle \pi _{\mathcal {A}}(w)=\lambda P(w)\gamma }$,

où ${\displaystyle \lambda }$ est le ${\displaystyle Q}$-vecteur ligne dont toutes les coordonnées sont nulles sauf celle d'indice ${\displaystyle i}$ qui vaut 1, et où ${\displaystyle \gamma }$ est le ${\displaystyle Q}$-vecteur colonne dont les coordonnées sont nulles sauf celles dont l'indice est dans ${\displaystyle T}$, et qui valent 1.

Pour l'exemple de droite d'un automate à quatre états, les matrices ${\displaystyle P(a)}$ et ${\displaystyle P(b)}$ et les vecteurs ${\displaystyle \lambda }$ et ${\displaystyle \gamma }$ sont:

${\displaystyle \lambda =(1,0,0,0)\qquad P(a)={\begin{pmatrix}0&{\tfrac {3}{4}}&{\tfrac {1}{4}}&0\\0&1&0&0\\{\tfrac {1}{2}}&{\tfrac {1}{2}}&0&0\\0&0&0&1\end{pmatrix}}\qquad P(b)={\begin{pmatrix}1&0&0&0\\0&0&{\tfrac {1}{2}}&{\tfrac {1}{2}}\\0&0&0&1\\0&0&0&1\end{pmatrix}}\qquad \gamma ={\begin{pmatrix}0\\0\\1\\0\end{pmatrix}}}$

On a par exemple : ${\displaystyle \lambda P(a)P(b)=(0,0,{\tfrac {3}{8}},{\tfrac {5}{8}})}$, et la probabilité d'acceptation de ${\displaystyle ab}$ est donc ${\displaystyle \lambda P(a)P(b)\gamma =3/8}$.

Soit ${\displaystyle \eta }$ un nombre avec ${\displaystyle 0\leq \eta <1}$. Le langage accepté par l'automate probabiliste ${\displaystyle {\mathcal {A}}}$ avec seuil ${\displaystyle \eta }$ est l'ensemble des mots dont la probabilité d'acceptation est supérieure à ${\displaystyle \eta }$. C'est l'ensemble ${\displaystyle L({\mathcal {A}},\eta )}$ défini par

${\displaystyle L({\mathcal {A}},\eta )=\{w\in A^{*}\mid \lambda P(w)\gamma >\eta \}}$

Le nombre ${\displaystyle \eta }$ est aussi appelé point de coupure (cut point en anglais).

Un langage stochastique est un langage de la forme ${\displaystyle L({\mathcal {A}},\eta )}$, pour un automate probabiliste ${\displaystyle {\mathcal {A}}}$ et une valeur de seuil ${\displaystyle \eta }$. Dans l'exemple ci-dessus, les mots du langage ${\displaystyle b^{*}a}$ ont tous probabilité ${\displaystyle {\tfrac {1}{2}}}$, les mots du langage ${\displaystyle b^{*}aa^{*}b}$ ont tous probabilité ${\displaystyle {\tfrac {3}{8}}}$. Le langage accepté avec seuil ${\displaystyle {\tfrac {1}{4}}}$ est la réunion de ces langages. Les langages rationnels sont tous des langages stochastiques.

Un seuil ou point de coupure est isolé s'il existe un nombre réel ${\displaystyle \delta >0}$ tel que

${\displaystyle \left|\pi _{\mathcal {A}}(w)-\eta \right|\geq \delta }$

pour tout mot ${\displaystyle w}$. Dans l'exemple ci-contre, il n'existe pas de mot accepté avec une probabilité comprise strictement plus grande que 1/2, donc tout nombre strictement plus grand est isolé. Un langage stochastique est isolé si son point de coupure est isolé.

Tous les langages rationnels sont stochastiques et certaines restrictions des langages stochastiques sont rationnelles :

• Tout langage stochastique dont le seuil est 0 est rationnel.
• Tout langage stochastique isolé est rationnel.

Mais on n'a pas l'égalité comme le montre l'exemple suivant.

Considérons l'automate à deux états sur l'alphabet binaire donné par les matrices :

${\displaystyle \lambda =(1,0)\qquad P(0)={\begin{pmatrix}1&0\\{\tfrac {1}{2}}&{\tfrac {1}{2}}\end{pmatrix}}\qquad P(1)={\begin{pmatrix}{\tfrac {1}{2}}&{\tfrac {1}{2}}\\0&1\end{pmatrix}}\qquad \gamma ={\begin{pmatrix}0\\1\end{pmatrix}}}$

Pour un mot binaire ${\displaystyle w=b_{1}b_{2}\cdots b_{n}}$, le coefficient ${\displaystyle P(w)_{1,2}}$ de la matrice ${\displaystyle P(w)}$ est égal à

${\displaystyle P(w)_{1,2}=\sum _{j=1}^{n}b_{j}2^{n+1-j}}$;

c'est le nombre rationnel dont ${\displaystyle 0,b_{n}b_{n-1}\cdots b_{1}}$ est l'écriture binaire. Pour une valeur de seuil ${\displaystyle \eta }$, le langage ${\displaystyle L({\mathcal {A}},\eta )}$ accepté par cet automate est donc l'ensemble des mots représentant l'écriture binaire retournée de nombre plus grand que ${\displaystyle \eta }$. Il est clair que si ${\displaystyle \eta <\eta '}$, alors ${\displaystyle L({\mathcal {A}},\eta )\subset L({\mathcal {A}},\eta ')}$ et que l'inclusion est stricte. Il en résulte qu'il existe un nombre non dénombrable de langages de la forme ${\displaystyle L({\mathcal {A}},\eta )}$ pour cet automate; comme le nombre de langages rationnels est dénombrable, cela implique l'existence de langages stochastiques non rationnels (même s'ils ne sont pas montrés constructivement par cet argument.

La plupart des questions sont indécidables^[4]. Ces questions peuvent également se formuler au moyen de l'image d'un automate probabiliste, défini comme l'ensemble ${\displaystyle \Omega ({\mathcal {A}})=\{\pi _{\mathcal {A}}(w)\mid w\in A^{*}\}}$.

• Le problème du vide, c'est-à-dire de savoir si le langage ${\displaystyle L({\mathcal {A}},\eta )}$ accepté est vide ou non, est indécidable pour ${\displaystyle 0<\eta <1}$. C'est le problème de savoir si ${\displaystyle \Omega ({\mathcal {A}})}$ contient une valeur supérieur à ${\displaystyle \eta }$.

• Le problème du seuil isolé, c'est-à-dire de savoir si un nombre ${\displaystyle \eta }$ est un seuil isolé pour une automate ${\displaystyle {\mathcal {A}}}$, est indécidable. C'est le problème de savoir s'il existe un intervalle ouvert centré autour de ${\displaystyle \eta }$ qui est disjoint de ${\displaystyle \Omega ({\mathcal {A}})}$.

• Le problème de l'existence d'un seuil isolé, c'est-à-dire de savoir s'il existe un nombre ${\displaystyle \eta }$ qui est un seuil isolé pour ${\displaystyle {\mathcal {A}}}$, est indécidable. C'est le problème de savoir si ${\displaystyle \Omega ({\mathcal {A}})}$ est dense dans l'intervalle ${\displaystyle [0,1]}$.

• On peut étendre la définition sans augmenter la puissance d'acceptation des automates probabilistes en remplaçant l'état initial par une distribution initiale, c'est-à-dire une valeur positive ou nulle ${\displaystyle i(p)}$ pour chaque état ${\displaystyle p}$, telle que ${\displaystyle \sum _{p\in Q}i(p)=1}$. De même, on peut doter l'automate d'une distribution terminale, donc remplacer l'ensemble des états terminaux par une fonction ${\displaystyle \tau }$, avec ${\displaystyle \sum _{p\in Q}\tau (p)=1}$.

• Un automate probabiliste est une forme particulière de représentation linéaire d'une série formelle rationnelle en variables non commutatives : c'est le cas particulier où les matrices sont stochastiques.

• Un modèle de Markov caché est très proche des automates probabilistes.

• Une généralisation géométrique conduit aux automates quantiques. Un état est représenté par un point dans un espace projectif complexe, les matrices forment un ensemble pris dans le groupe unitaire. Le point de coupure est vu comme une limite d'une valeur maximale de l'angle quantique^{[réf. souhaitée]}.

• Michael O. Rabin, « Probabilistic Automata », Information and Control, vol. 6,‎ 1963, p. 230-245
• Azaria Paz, Introduction to probabilistic automata, Academic Press, coll. « Computer science and applied mathematics », 1971
• Arto Salomaa, Theory of Automata, Pergamon Press, 1969
• Vincent Blondel et Vincent Canterini, « Undecidable Problems for Probabilistic Automata of Fixed Dimension », Theory of Computing Systems, vol. 36, n^o 3,‎ 2008, p. 231-245 (lire en ligne)

• Modèle de Markov caché
• Automate fini
• Théorie des automates
• Grammaire algébrique probabiliste
• Algorithme de Viterbi
• Programmation dynamique
• Bio-informatique
• Reconnaissance automatique de la parole

v · m Automates finis et langages réguliers
Articles généraux	Théorie des automates Automate fini Machine abstraite
Automates finis	Automate fini déterministe Automate fini inambigu Automate fini non déterministe Construction par sous-ensembles Automate sur les mots infinis
Automates finis particuliers	Automate alternant Automate bidirectionnel Automate pondéré Automate probabiliste Automate quantique Automate temporisé Automate de Büchi Automate de Muller Modèle de Markov caché Système de transition d'états Structure de Kripke Machine à états abstraits Machine de Mealy Machine de Moore Transducteur fini Automate séquentiel
Langages réguliers	Langage rationnel Langage sans étoile Langage local Langage congruentiel Langage stochastique Lemme de l'étoile Lemme d'Arden ω-langage rationnel
Des automates aux langages	Expression régulière Algorithme de Conway Algorithme de McNaughton et Yamada Méthode de Brzozowski et McCluskey
Des langages aux automates	Dérivée de Brzozowski Algorithme de Thompson Construction de Glushkov Complexité en états
Minimisation	Théorème de Myhill-Nerode Équivalence de Nerode Minimisation d'un automate fini déterministe Algorithme de Moore Algorithme de Brzozowski Algorithme de Hopcroft
Équivalences	Théorème de Kleene Étoile de Kleene Monoïde syntaxique Théorème des variétés d'Eilenberg

• Portail des mathématiques
• Portail de l'informatique théorique