Loi de Bernoulli - Définition

Source: Wikipédia sous licence CC-BY-SA 3.0.
La liste des auteurs de cet article est disponible ici.

- Introduction - Variable de Bernoulli - Applications au comptage - Distributions liées

Introduction

Bernoulli
Paramètres	$p>0\,$ (nombre réel) $q\equiv 1-p\,$
Support	$k=\{0,1\}\,$
Densité de probabilité (fonction de masse)	$\begin{matrix} q & \mbox{pour }k=0 \\p~~ & \mbox{pour }k=1 \end{matrix}$
Fonction de répartition	$\begin{matrix} 0 & \mbox{pour }k<0 \\q & \mbox{pour }0<k<1\\1 & \mbox{pour }k>1 \end{matrix}$
Espérance	$p\,$
Médiane (centre)	non disponible
Mode	$\textrm{max}(p,q)\,$
Variance	$pq\,$
Asymétrie (statistique)	$\frac{q-p}{\sqrt{pq}}$
Kurtosis (non-normalisé)	$\frac{3p^2-3p+1}{pq}\,$
Entropie	$-q\ln(q)-p\ln(p)\,$
Fonction génératrice des moments	$q+pe^t\,$
Fonction caractéristique	$q+pe^{it}\,$
modifier

En mathématiques, la distribution de Bernoulli ou loi de Bernoulli, du nom du mathématicien suisse Jacques Bernoulli, est une distribution discrète de probabilité, qui prend la valeur 1 avec la probabilité p et 0 avec la probabilité $\scriptstyle\ q = 1 - p.$

$\mathbb{P}(X=x) = \left\{\begin{array}{ll} p &\quad\mbox {si }x=1, \\ 1-p &\quad\mbox {si }x=0, \\ 0 &\quad\mbox {sinon.}\end{array}\right.$

L'espérance mathématique d'une variable aléatoire de Bernoulli vaut p et la variance vaut p(1-p).

Le kurtosis tend vers l'infini pour des valeurs hautes et basses de p, mais pour $\scriptstyle\ p=1/2\$ la distribution de Bernoulli a un kurtosis plus bas que toute autre distribution, c’est-à-dire 1.

Variable de Bernoulli

Une variable aléatoire suivant la loi de Bernoulli est appelée variable de Bernoulli.

La loi de Bernoulli est la loi de la variable aléatoire qui code le résultat d'une épreuve de Bernoulli de la manière suivante : 1 pour "succès", 0 pour "échec", ou quel que soit le nom qu'on donne aux deux issues d'une épreuve de Bernoulli.

Plus généralement, toute application mesurable à valeur dans {0,1} est une variable de Bernoulli. Autrement dit, toute fonction indicatrice mesurable suit la loi de Bernoulli.

Réciproquement, pour toute variable de Bernoulli X définie sur (Ω,A,P), on peut trouver un ensemble mesurable B tel que X et la fonction indicatrice de B soient presque sûrement égaux : toute variable de Bernoulli est presque sûrement égale à une fonction indicatrice.

Applications au comptage

Écrire une variable aléatoire N, comptant un nombre d'évènements dans une situation donnée, comme la somme d'une famille de variables de Bernoulli, permet souvent de calculer simplement l'espérance de N, comme étant la somme des paramètres de ces variables de Bernoulli:

$\left\{N=\sum_{i\in I} X_i\right\}\quad\Rightarrow\quad\left\{\mathbb{E}[N]=\sum_{i\in I} \mathbb{P}(X_i=1)\right\}.$

On utilise le fait que, pour une variable de Bernoulli, le paramètre p est à la fois l'espérance et la probabilité de la valeur 1 :

$\mathbb{E}[X_i]\ =\ \mathbb{P}(X_i=1).$

Cette méthode simplifie aussi le calcul de la variance de N, dans certains cas. On trouvera ci-dessous quelques exemples, parmi les plus représentatifs, de cette méthode de comptage très répandue.

Sondage

On effectue une série de n tirages au hasard dans une population. On pose la même question à chacun des n individus tirés au hasard. Le but est d'estimer la proportion p d'individus de la population totale qui auraient répondu "oui" (si on leur avait posé la question) à l'aide du nombre N d'individus qui ont effectivement répondu "oui" parmi les n individus interrogés. On remarque que N peut s'écrire

$N = \sum_{k=1}^n X_k,$

où X₁ , X₂ , ... , X_n sont définies par

$X_k\,=\, 1\!\!1_{\mathrm{la~r\acute eponse~du}\ k\mathrm{-\grave eme~individu~est}\ oui},$

i.e. X_k vaut 1 ou 0 selon que la réponse du k-ème individu est "oui" ou "non". Étant une fonction indicatrice, X_k est donc une variable de Bernoulli. Son paramètre est "la probabilité de répondre "oui"", à savoir la proportion de "oui" dans la population totale, c'est-à-dire p. On a donc

$\mathbb{E}[N]=\sum_{1\le i\le n} \mathbb{P}(X_i=1)\ =\ np,\qquad\text{et}\qquad\mathbb{E}[N/n]=p.$

D'où l'idée, proposée par Bernoulli dans son ouvrage fondateur "Ars Conjectandi", d'estimer cette proportion p a priori inconnue à l'aide de la proportion N/n de "ouis" dans l'échantillon, qui est, elle, connue. Dans le but de déterminer la précision de cette estimation, Bernoulli a proposé dans le même ouvrage les premières inégalités de concentration (pour la loi binomiale). Une approche plus simple (mais produisant des inégalités de concentration plus grossières) que celle de Bernoulli, serait de calculer la variance de N, dans l'idée d'appliquer l'inégalité de Bienaymé-Tchebychev. A ce stade, il est nécessaire de préciser

si les tirages ont eu lieu avec remise (i.e. il est possible que la même personne soit interrogée plusieurs fois), ce qui implique l'indépendance des X_k, et donne

$\text{Var}(N)=\sum_{1\le i\le n} \text{Var}(X_i)\ =\ np(1-p).$

Dans le cas "avec remise", N suit la loi binomiale.

si les tirages ont eu lieu sans remise (i.e. en évitant d'interroger 2 fois la même personne), auquel cas les X_k ne sont pas indépendants. Alors

$\text{Var}(N)=\sum_{1\le i\le n} \text{Var}(X_i)\ + 2\sum_{1\le i<j\le n}\text{Cov}(X_i,X_j).$

En ce cas N suit la loi hypergéométrique, et les calculs requièrent de connaître la taille totale de la population, qu'on notera T dans la suite. On a

$\text{Cov}(X_i,X_j)=\mathbb{E}[X_iX_j]-\mathbb{E}[X_i]\mathbb{E}[X_j]=\mathbb{P}(X_iX_j=1)-p^2.$

En effet la variable Z=X_iX_j vaut 0 ou 1, et est donc une variable de Bernoulli. On a alors

$\mathbb{P}(X_iX_j=1)\,=\,\frac{pT}T\,\frac{pT-1}{T-1}\,\quad\text{et}\quad\text{Cov}(X_i,X_j)=-\frac{p(1-p)}{T-1},$

puis

$\text{Var}(N)\ =\ \frac{p(1-p)n(T-n)}{T-1}.$

Dans les deux cas considérés ci-dessus, la loi de N est connue explicitement. Cependant, le calcul de l'espérance de N utilisant la décomposition de N en somme de variables de Bernoulli, présenté ci-dessus, est plus simple que le calcul de l'espérance de N utilisant le théorème de transfert :

$\mathbb{E}[N]=\sum_{1\le k\le n}\ k\,\mathbb{P}(N=k).$

La même remarque vaut pour le calcul de la variance.

Fonction de répartition empirique

En statistiques, la fonction de répartition empirique associée à un n-échantillon est la fonction de répartition de la loi de probabilité qui attribue la probabilité 1/n à chacun des n nombres de cet échantillon.

Soit $\scriptstyle\ X_1,X_2,\,\dots\,,X_n\$ un échantillon de variables i.i.d. à valeurs dans $\scriptstyle\ \mathbb{R}\$ ayant pour fonction de répartition commune F(x) : la fonction de répartition empirique $\scriptstyle\ F_n(x)\$ associée à l'échantillon $\scriptstyle\ X_1,X_2,\,\dots\,,X_n\$ est une fonction en escalier définie par

$F_n(x)\ =\ \frac{\mathrm{nombre~d'\acute el \acute ements~inf\acute erieurs~\grave a}\ x\ \mathrm{dans~ l'\acute echantillon}}{n}\ =\ \frac{1}{n}\ \sum_{i=1}^n\ 1\!\!1_{X_i \le x}.$

Pour un x fixé, la variable $\scriptstyle\ 1\!\!1_{X_i \le x}\$ est une variable de Bernoulli, de paramètre p = F(x). Par conséquent, la variable $\scriptstyle\ nF_n(x)\$ est distribuée selon une loi binomiale, avec pour moyenne nF(x) et pour variance nF(x)(1 − F(x)).

Pour divers sens du mot « convergence », la fonction de répartition empirique converge vers la fonction de répartition F des $\scriptstyle\ X_i,\$ lorsque la taille de l'échantillon augmente. Par exemple, en vertu du calcul de la variance de F_n (x), on a, pour tout x réel,

$\mathbb E\left[\left(F_n(x)-F(x)\right)^2\right]\ =\ \tfrac{F(x)(1-F(x))}{n}\ \longrightarrow\ 0,$

ce qui démontre la convergence de F_n (x) vers F(x), dans L₂ .

Récurrence et transience d'une chaîne de Markov

Le temps de séjour (ou nombre de passages) d'une chaîne de Markov $\scriptstyle\ X=(X_n)_{n\ge 0}\quad$ en un état $\scriptstyle\ i\$ est une variable aléatoire $\scriptstyle\ S(i)\$ à valeurs dans $\scriptstyle\ \overline{\mathbb{N}}=\mathbb{N}\cup\{+\infty\},\$ définie par

$S(i)\ =\ \sum_{k\ge 0}1\!\!1_{X_k=i}.$

L'état $\scriptstyle\ i\$ est dit transient ou récurrent, suivant que $\scriptstyle\ \mathbb{P}_{i}\left(S(i)=+\infty\right)$ vaut 0 ou 1, ou encore suivant que le temps de séjour moyen en i, partant de i, $\scriptstyle\ \mathbb{E}_{i}\left[S(i)\right],$ est fini ou infini. Comme $\scriptstyle\ S(i)\$ est une somme (infinie) de variables de Bernoulli, discuter ce dernier point revient à discuter la convergence de la série

$\ \mathbb{E}_{i}\left[S(i)\right]=\sum_{k\ge 0}p^{(k)}_{i,i},$

où $\scriptstyle\ p^{(k)}_{i,i}$ est le paramètre de la variable de Bernoulli concernée, i.e.

$\ p^{(k)}_{i,i}=\mathbb{P}_i(X_k=i),$

lequel paramètre $\scriptstyle\ p^{(k)}_{i,i}$ étant par ailleurs le terme diagonal de la puissance k-ème de la matrice de transition de la chaîne de Markov considérée.

Problèmes d'allocation : urnes et boules

On jette m boules au hasard dans n boites, expérience probabiliste dont un évènement élémentaire ω est une application de $\scriptstyle\ B=[\![1,m]\!]\$ dans $\scriptstyle\ A=[\![1,n]\!]\$ : ω(k) est le numéro de la boite dans laquelle est rangée la boule numéro k. Ainsi les ω(k) sont des variables aléatoires indépendantes et uniformes sur A. L'application N, qui à une distribution ω de m boules dans n boites associe le nombre N(ω) de boites vides à la fin de cette distribution ω, peut être vue comme une somme de variables de Bernoulli : en effet,

$N = \sum_{k=1}^n X_k,$

où X₁ , X₂ , ... , X_n sont définies par

$X_k\,=\, 1\!\!1_{\mathrm{la}\ k\mathrm{-\grave eme~boite~est}\ vide},$

i.e. X_k vaut 1 ou 0 selon que la k-ème boite est vide ou pas. Étant une fonction indicatrice d'évènement, X_k est donc une variable de Bernoulli. Son paramètre est "la probabilité d'être vide", i.e. la probabilité que chacune des m boules ait évité la boîte n°k. Chacune des m boules ayant une probabilité 1/n de tomber dans la boîte n°k, et les allocations des m boules étant indépendantes, on obtient

$\mathbb{E}[X_k]=\mathbb{P}(X_k=1)\ =\ \left(1-\tfrac1n\right)^m,$

puis

$\mathbb{E}[N]=\sum_{1\le k\le n} \mathbb{P}(X_k=1)\ =\ n\left(1-\tfrac1n\right)^m.$

Grace à cette décomposition en somme de variables de Bernoulli, on peut obtenir une inégalité de concentration précise pour N, en appliquant l'inégalité d'Azuma. Cette inégalité de concentration permet de justifier une méthode statistique de comptage approximatif basée sur la statistique N, et pouvant servir, par exemple, à déceler une attaque de virus informatique.

Remarque : La loi de probabilité de N s'exprime explicitement en terme des nombres de Stirling de seconde espèce, mais les expressions obtenues sont peu propices au calcul numérique, d'où la nécessité d'une approximation via l'inégalité d'Azuma.

Points fixes d'une permutation tirée au hasard

On jette n boules numérotées au hasard dans n boites numérotées, chacune de ces boites contenant au plus une boule, expérience probabiliste dont un évènement élémentaire $\scriptstyle\ \omega\$ est une permutation des éléments de $\scriptstyle\ [\![1,n]\!]\$ : $\scriptstyle\ \omega(k)\$ est, là encore, le numéro de la boite dans laquelle est rangée la boule numéro k. On suppose que les différentes distributions (permutations) possibles sont équiprobables. L'application N, qui à une distribution $\scriptstyle\ \omega\$ de n boules dans n boites associe le nombre $\scriptstyle\ N(\omega)\$ de boules portant le même numéro que la boite dans laquelle elles sont rangées à la fin de cette distribution $\scriptstyle\ \omega,\$ peut être vue comme une somme de variables de Bernoulli : en effet,

$N = \sum_{k=1}^n X_k,$

où X₁ , X₂ , ... , X_n sont définies par

$X_k\,=\, 1\!\!1_{k\text{ est un point fixe de }\omega},$

i.e. X_k vaut 1 ou 0 selon que la k-ème boite contient la k-ème boule ou pas. Étant une fonction indicatrice d'évènement, X_k est donc une variable de Bernoulli. Son paramètre est 1/n . On obtient que

$\mathbb{E}[N]=\sum_{1\le k\le n} \ \tfrac1n\ =\ 1.$

En suivant une démarche analogue à celle suivie pour un , on trouve que

$\mathbb{P}(X_iX_j=1)\,=\,\tfrac1{n(n-1)},\quad\text{Cov}(X_i,X_j)=\tfrac{1}{n^2(n-1)},\quad\text{puis}\quad\text{Var}(N)\ =\ 1.$

Le principe d'inclusion-exclusion permet de calculer exactement la loi de N, et de constater que cette loi converge, lorsque n tend vers l'infini, vers la loi de Poisson de paramètre 1. Cet exemple est représentatif : en général, la loi de Poisson de paramètre $\scriptstyle\ \mathbb{E}[N]\$ est une bonne approximation de la loi de la somme N d'un grand nombre de variables de Bernoulli de petit paramètre et peu corrélées. Là encore, un avantage de l'écriture de N comme somme de variables de Bernoulli est de permettre un calcul rapide de l'espérance et de la variance de N, ce que l'expression explicite de la loi de N ne permet pas.

Nombre d'occurrences d'un mot dans un texte (paradoxe du singe dactylographe)

On considère un texte ω=ω₁ω₂ω₃ ... ω_m constitué de m caractères d'imprimerie tous tirés au hasard, avec remise, d'un sac contenant exactement une fois chaque caractère d'imprimerie. On note $\scriptstyle\ \mathcal{A}\$ l'ensemble des caractères d'imprimerie, n le cardinal de $\scriptstyle\ \mathcal{A}.\$ Soit une suite a=a₁a₂a₃ ... a_r de caractères de $\scriptstyle\ \mathcal{A},\$ par exemple un mot, comme Wikipedia (r=9 dans ce cas particulier). L'application N, qui à un texte ω associe le nombre N(ω) d'occurrences de la suite a dans le texte ω peut être vue comme une somme de variables de Bernoulli : en effet,

$N = \sum_{k=1}^{m-r+1} X_k,$

où X₁ , X₂ , ... , X_m-r+1 sont définies par

$X_k\,=\, 1\!\!1_{\omega_k\omega_{k+1}\omega_{k+2}\dots\omega_{k+r-1}=a},$

i.e. X_k vaut 1 ou 0 suivant que la suite a apparait dans le texte ω, juste après le k-1-ème caractère de ce texte ω, ou pas. Étant une fonction indicatrice d'évènement, X_kest donc une variable de Bernoulli. Son paramètre est

$\mathbb{P}(\omega_k\omega_{k+1}\omega_{k+2}\dots\omega_{k+r-1}=a)\ =\ \frac1{n^{r}}.$

Ainsi

$\mathbb{E}[N]=\sum_{1\le k\le m-r+1}\ \mathbb{P}(X_k\,=\, 1)\ =\ \frac{m-r+1}{n^{r}}.$

L'intuition est alors qu'il faut un texte ω de longueur au moins m=n^r pour que l'évènement $\scriptstyle\ \{N\ge 1\}\$ (autrement dit l'évènement "le mot a apparait au moins une fois dans le texte ω") devienne probable. En effet, l'inégalité de Markov entraine que

$\mathbb{P}(N\ge 1)\le\mathbb{E}[N].$

Le paradoxe du singe dactylographe, popularisé par Émile Borel, exploite les propriétés de N lorsque la longueur r de la séquence de caractères a est très grande. Dans l'exemple donné par Émile Borel, la séquence a est un texte classique de la littérature française, par exemple le texte intégral de "La Comédie humaine".

L'analyse statistique des suites de caractères tirés au hasard indépendamment, ou tirés au hasard suivant des modèles plus sophistiqués, a de nombreuses applications, comme l'analyse des performances de différentes méthodes de compression de données, ou encore l'étude du génome, et est à l'origine de la formalisation, par Andreï Markov, de la notion de chaîne de Markov.

Nombre de records et nombre de cycles d'une permutation

Définition — Dans une suite u=(u_k)_1≤k≤n, il y a record vers le bas (resp. vers le haut) au rang k si u_k est strictement plus petit (resp. strictement plus grand) que chaque terme u_i tel que i, c'est à dire strictement plus petit (resp. strictement plus grand) que chacun des termes qui le précèdent.

Exemple. Les records vers le bas de la suite ω ci-dessous sont en gras et soulignés :
$\ \omega\ {=}\ (\underline{\bold{13}},14,\underline{\bold{11}},15,\underline{\bold{7}},9,\underline{\bold{4}},5,12,\underline{\bold{3}},\underline{\bold{1}},6,10,8,2).$

Soit B(k) (resp. H(k)) l'évènement "il y a record vers le bas (resp. vers le haut) au rang k". Autrement dit, B(k) est l'ensemble des permutations ω de $\scriptstyle\ \mathfrak{S}_n\$ pour lesquelles la suite (ω(1), ω(2), ω(3), ... , ω(n)) présente un record vers le bas au rang k. Ainsi le nombre N_b(ω) (resp. N_h(ω)) de records vers le bas (resp. vers le haut) de la permutation ω s'écrit comme une somme de variables de Bernoulli :
$N_b(\omega)=\sum_{1\le k\le n}\ 1\!\!1_{B(k)}(\omega)\quad\text{et}\quad N_b(\omega)=\sum_{1\le k\le n}\ 1\!\!1_{H(k)}(\omega).$
En vertu des propriétés statistiques du code de Lehmer, ces variables de Bernoulli ont pour paramètres respectifs 1/k :
$\mathbb{P}(B(k))=\mathbb{P}(H(k))=\tfrac1k.$
Ainsi
$\mathbb{E}[N_b]=\mathbb{E}[N_h]=\sum_{k=1}^n\frac{1}k=H_n\simeq \ln n,$
où H_n désigne le n-ème nombre harmonique. Comme, toujours en vertu des propriétés statistiques du code de Lehmer, les variables de Bernoulli concernées sont indépendantes, on a également
$\text{Var}(N_b)=\text{Var}(N_h)=\sum_{1\le k\le n}\ \text{Var}\left(1\!\!1_{B(k)}\right)=H_n-H_n^{(2)}\simeq \ln n,$
où H_n⁽²⁾ est le nombre harmonique défini par
$H_n^{(2)}=\sum_{k=1}^n\frac{1}{k^2},$
et converge vers ζ(2), i.e. vers π²/6.

La correspondance fondamentale de Foata permet de montrer que les deux applications suivantes :

le nombre N_b(ω) de records d'une permutation ω tirée au hasard,

le nombre C(ω) de cycles de la décomposition d'une permutation ω tirée au hasard,

sont deux variables aléatoires ayant même loi de probabilité. Cette loi de probabilité s'exprime en terme des nombres de Stirling de première espèce, notés $\left[\begin{matrix}\scriptstyle n \\\scriptstyle k \end{matrix}\right]\$ :
$\begin{align} \mathbb{P}\left(N_b=k\right)&=\tfrac{(-1)^{n-k}}{n!}\ \left[\begin{matrix} n \\ k \end{matrix}\right], \\\mathbb{P}\left(x\le N_b\le y\right)&=\sum_{k=x}^y\tfrac{(-1)^{n-k}}{n!}\ \left[\begin{matrix} n \\ k \end{matrix}\right],\end{align}$
ce qui donne une formule exacte, mais peu explicite, pour $\scriptstyle\ \mathbb{P}\left(\left|N_b-\ln(n)\right|\le a\sqrt{\ln(n)}\right),\$ formule exacte dont il est alors difficile de déduire un calcul effectif de la probabilité en question.

En revanche, l'écriture de N_b comme somme de variables de Bernoulli permet d'appliquer à N_b le théorème central limite. Ainsi, on constate que le nombre de cycles d'une permutation tirée au hasard, comme son nombre de records, sont très concentrés autour leur espérance, qui vaut approximativement ln n. Plus précisément :
$\lim_n\,\mathbb{P}\left(\left|N_b-\ln(n)\right|\le a\sqrt{\ln(n)}\right)\ =\ \int_{-a}^a\ \tfrac1\sqrt{2\pi}\ e^{-x^2/2}\ dx\ =\ 0,999,$
pour a=3,3.

Coût moyen de l'algorithme de tri rapide

L'algorithme de tri rapide, également appelé Quicksort, est un des algorithmes les plus utilisés pour ranger, dans l'ordre croissant, une liste désordonnée x= (x₁ , x₂ , x₃ , ... , x_n ) de n articles, à l'aide d'un petit nombre de comparaisons deux à deux. En effet Quicksort est réputé à la fois simple et efficace. Quicksort se déroule de la manière suivante :

on compare x₁ avec chacun des éléments de la liste (x₂ , x₃ , ... , x_n ), ce qui permet de constituer 2 sous-listes, la liste des ω₁-1 éléments plus petits (resp. des n-ω₁ éléments plus grands) que x₁ . Cela fournit le rang ω₁ que x₁ occupera dans la liste une fois que celle-ci sera bien rangée.

on compare x₂ avec chacun des éléments de sa sous-liste, ce qui permet de trouver le rang de x₂ dans cette sous-liste, et finalement le rang ω₂ que x₂ occupera dans la liste complète une fois que celle-ci sera bien rangée. Par ailleurs cela scinde une des deux sous-listes constituées à l'étape précédente en deux, constituant ainsi 3 sous-listes, dont certaines, éventuellement, peuvent être vides (si x₁ ou x₂ sont des éléments extrémaux de leur (sous-)liste).

on compare x₃ etc ...

Une implémentation concrète de cet algorithme abstrait est décrite par Don Knuth dans The art of computer programming.

La performance de Quicksort, dans le pire des cas (pire des cas qui correspond à une liste déjà bien rangée, dans l'ordre croissant ou décroissant), est de l'ordre de n² comparaisons deux à deux. Pour cette raison, une liste constituée de concaténations de listes bien rangées (configuration fréquente en pratique) coûtera cher à ranger, en nombre de comparaisons effectuées. Le remède souvent adopté pour pallier cette faiblesse de Quicksort est de désordonner artificiellement la liste avant de la traiter : on note ω=(ω(1), ω(2), ω(3), ... , ω(n)) les rangs respectifs des éléments (x₁ , x₂ , x₃ , ... , x_n ) de la liste désordonnée au préalable, une fois que ces éléments sont rangés en une liste croissante (y₁ < y₂ < y₃ < ... < y_n ), de sorte que x_i =y_ω(i) . On suppose donc que la liste a été prétraitée de sorte que ω soit une permutation tirée au hasard avec équiprobabilité parmi les n! permutations possibles. On note N(ω) le nombre de comparaisons effectuées par l'algorithme. Alors
$N(\omega)=\sum_{1\le i<j\le n}\ 1\!\!1_{A(i,j)}(\omega),$
où A(i,j) est l'évènement "y_i et y_j sont comparés une fois au cours de l'algorithme". En découle une analyse élémentaire du coût moyen de Quicksort, plus simple que la méthode classique utilisant une formule de récurrence et un calcul de fonction génératrice.

Proposition — On a
$\mathbb{P}\left(A(i,j)\right)\ =\ \frac2{j-i+1},$
et
$\mathbb{E}[N]\ =\ 2(n+1)\,H_n\,-\,4n\ \simeq\ 2n\,\ln(n).$

Il y a deux possibilités :

si le terme, disons z, de la liste L=(y_i < y_i+1 < ... < y_j-1 < y_j ) qui apparait le premier dans la liste (x₁ , x₂ , x₃ , ... , x_n ) est compris strictement entre y_i et y_j , alors, juste avant qu'on commence à comparer z avec les éléments de sa sous-liste, cette sous-liste contient la liste L, et aucun des éléments de L n'a encore été comparé avec un autre élément de L (puisque z est le premier). Après qu'on a comparé z avec tous les autres éléments de L, y_i et y_j sont placés dans deux sous-listes différentes (puisque y_i < z < y_j ) et ne seront plus jamais comparées :

$1\!\!1_{A(i,j)}(\omega)=0\ ;$

si z est l'un des deux éléments y_i et y_j de la liste L, comme on compare z à tous les autres éléments de sa sous-liste, laquelle contient intégralement la liste L, alors z va, en particulier, être comparé à l'autre élément du couple (y_i , y_j ) :

$1\!\!1_{A(i,j)}(\omega)=1\ .$
La répartition des j-i+1 éléments de la liste L dans la liste x est aléatoire uniforme, donc la probabilité qu'un élément particulier z de la liste L apparaisse le premier dans la liste x est 1/(j-i+1). Ainsi
$\begin{align} \mathbb{P}\left(A(i,j)\right)&=\mathbb{P}\left(\mathrm{le~1er~\acute el\acute ement~de~la~liste}\ L\ \mathrm{dans~la~liste}\ x\ \mathrm{est~soit}\ y_i,\ \text{soit}\ y_j\right) \\ &=\frac2{j-i+1}, \end{align}$
et
$\begin{align} \mathbb{E}[N]&=\sum_{1\le i<j\le n}\ \mathbb{P}\left(A(i,j)\right)\\ &=\sum_{1\le i<j\le n}\ \frac2{j-i+1}\\ &=2\sum_{1\le i\le n-1}\ \left(\sum_{i+1\le j\le n}\frac1{j-i+1}\right)\\ &=2\sum_{1\le i\le n-1}\ \left(\sum_{2\le \ell\le n-i+1}\frac1{\ell}\right)\\ &=2\sum_{2\le m\le n}\ \left(\sum_{2\le \ell\le m}\frac1{\ell}\right)\\ &=2\sum_{2\le \ell\le n}\ \frac1{\ell}\left(\sum_{\ell\le m\le n}\,1\right)\\ &=2\ \sum_{2\le \ell\le n}\ \frac{n+1-\ell}{\ell}\\ &=2(n+1)\ \sum_{2\le \ell\le n}\ \frac{1}{\ell}\ -\ 2\ \sum_{2\le \ell\le n}\ \frac{\ell}{\ell}\\ &=2\left((n+1)(H_n-1)-(n-1)\right) \\ &=2(n+1)\,H_n\,-\,4n \\ &\simeq 2n\,\ln(n). \end{align}$
où H_n désigne le n-ème nombre harmonique. La 4ème égalité provient du changement de variables $\scriptstyle\ \ell=j-i+1,$ la 5ème égalité provient du changement de variables $\scriptstyle\ m=n-i+1,$ et la 6ème égalité découle d'une interversion de l'ordre de sommation entre les variables m et $\scriptstyle\ \ell.$

Ainsi la randomisation de la liste fournie en entrée permet de diminuer le coût de l'algorithme, de n² à 2n ln(n). Une analyse plus poussée permet de démontrer que N est très concentré autour de sa moyenne 2n ln(n). Plus précisément, la variance de N est asymptotiquement (7-(2π²/3)) n². Notons que le coût (coût moyen ou coût dans le pire des cas) de n'importe quel algorithme de tri utilisant des comparaisons 2 à 2 est minoré par ln(n!)/ln(2) qui, d'après la formule de Stirling, vaut approximativement 1,4... n ln(n).

Distributions liées
- Introduction - Variable de Bernoulli - Applications au comptage - Distributions liées

Batteries: capacité triplée avec ces nouvelles anodes en silicium !

Il y a 1 heure

La moelle épinière possède sa propre mémoire

Il y a 1 heure

Cette équation prédit une "magnetic RAM" un million de fois plus rapide

Il y a 3 heures

Des humains ont vécu dans cet immense tube de lave il y a 7000 ans

Il y a 3 heures

L'anxiété et la dépression peuvent diminuer grâce à cette stimulation transcrânienne

Il y a 20 heures

Le bon ratio oméga-6/oméga-3 dans l'assiette pour lutter contre l'obésité

Il y a 20 heures

Des particules plus rapides que la lumière ? Premier test réussi pour les tachyons

Il y a 1 jour

Cette nouvelle approche permet de cibler les cellules cancéreuses pour les combattre

Il y a 1 jour

Intel dévoile le plus grand ordinateur neuromorphique au monde, imitant le cerveau humain

Il y a 1 jour

Cette créature expliquerait notre réaction instinctive de combat ou de fuite

Il y a 1 jour

Les traumatismes de l'enfance altèrent les fonctions musculaires en vieillissant

Il y a 1 jour

Pourquoi nous gratouillons-nous si souvent pour rien ?

Il y a 1 jour

Découverte d'un serpent géant, le plus grand de tous les temps ?

Il y a 2 jours

Découverte d'un nouveau principe de mouvement dans les cristaux liquides

Il y a 2 jours

Une concentration extrême de matière noire révélée par cet anneau d'Einstein

Il y a 2 jours

Comment les émissions des véhicules à essence se transforment en particules respirables

Il y a 2 jours

L'atmosphère de Vénus fuit dans l'espace

Il y a 2 jours

Quand la lutte contre la pollution de l'air contribue au réchauffement climatique: le paradoxe environnemental

Il y a 2 jours

Un trou noir dormant géant découvert dans notre voisinage cosmique

Il y a 3 jours

Grippe aviaire: le risque de propagation aux humains "extrêmement préoccupant" d'après l'OMS

Il y a 3 jours

Le secret des crânes coniques et des dents limées des Vikings

Il y a 3 jours

Les terres rares, loin d'être rares, affectent les plantes

Il y a 3 jours

La marine américaine développe sa première arme à micro-ondes contre les drones

Il y a 4 jours

Premier atlas de l'ovaire humain: un pas vers l'ovaire artificiel

Il y a 4 jours

La vision suffit pour produire les mouvements collectifs (vidéo)

Il y a 4 jours

Comment la Voie lactée a-t-elle influencé l'Egypte antique ?

Il y a 4 jours

Coopérer ou rivaliser: comment décide notre cerveau ?

Il y a 4 jours

S'inspirer des os de géants pour la construction

Il y a 5 jours

Rigidité artérielle: un nouvel indicateur pour prévenir les maladies cardiovasculaires

Il y a 5 jours

Pourquoi les femmes seules consomment-elles plus de sucreries ?

Il y a 5 jours

Que faut-il savoir sur les PFAS, ces "polluants éternels" ?

Il y a 5 jours

Découverte: ces substances courantes accélèrent le vieillissement

Il y a 5 jours

Des scientifiques identifient le meilleur moment de la journée pour faire du sport

Il y a 5 jours

Cette rupture technologique pourrait décupler la capacité des disques durs

Il y a 6 jours

Cycle menstruel: une étude scientifique établit un lien avec la Lune

Il y a 6 jours

Quand un trio d'étoiles devient un couple: une histoire cataclysmique retracée

Il y a 6 jours

Ce petit ver possède des yeux immenses: pourquoi ?

Il y a 6 jours

D'où vient cette structure fractale observée dans une bactérie ?

Il y a 6 jours

Découverte majeure dans les allergies respiratoires

Il y a 6 jours

Voici ce qui a produit la lumière la plus lumineuse jamais détectée dans l'Univers

Il y a 7 jours

Propagation inquiétante de la "mouche noire" suceuse de sang en Allemagne

Il y a 7 jours

Le hasard confère le prix Turing et 1 million de dollars au mathématicien Avi Wigderson

Il y a 7 jours

AI Act: comment encadrer l'intelligence artificielle en Europe ?

Il y a 7 jours

Quelle est cette forme étrange photographiée près de la Lune ?

Il y a 7 jours

Si vous avez déjà eu une entorse de la cheville, attention à ceci

Il y a 7 jours

Démonstration d'une nouvelle technologie de lévitation, stable et sans supraconductivité

Il y a 8 jours

Ces indices d'une rupture imminente de la faille de San Andreas

Il y a 8 jours

Cet effet inattendu de la musculation sur la mémoire

Il y a 8 jours

Les géantes Uranus et Neptune ne seraient pas faites comme nous l'imaginions

Il y a 8 jours

Parker Solar Probe se prépare à battre le record de vitesse de l'humanité

Il y a 8 jours

Populaires

Batteries: capacité triplée avec ces nouvelles anodes en silicium !

Découverte d'un serpent géant, le plus grand de tous les temps ?

La moelle épinière possède sa propre mémoire

Des particules plus rapides que la lumière ? Premier test réussi pour les tachyons

Cette équation prédit une "magnetic RAM" un million de fois plus rapide

Des humains ont vécu dans cet immense tube de lave il y a 7000 ans

Toutes les ventes flash et Codes Promos Amazon

Cdiscount: les meilleures réductions actuelles

Page générée en 4.667 seconde(s) - site hébergé chez Contabo
Ce site fait l'objet d'une déclaration à la CNIL sous le numéro de dossier 1037632
A propos - Informations légales | Partenaire: HD-Numérique
Version anglaise | Version allemande | Version espagnole | Version portugaise