L'ensemble de Mandelbrot est une fractale qui est définie comme l'ensemble des points c du plan complexe pour lesquels la suite récurrente définie par :
et la condition z0 = 0
ne tend pas vers l'infini (en module).
Si nous reformulons cela sans utiliser les nombres complexes, en remplaçant zn par le couple (xn, yn) et c par le couple (a, b), alors nous obtenons:
et
L'ensemble de Mandelbrot a été créé par Benoît Mandelbrot et permet d'indicer les ensembles de Julia : à chaque point du plan complexe correspond un ensemble de Julia différent; ces points de l'ensemble de Mandelbrot correspondent précisément aux ensembles de Julia connexes, et ceux en dehors correspondent aux ensembles de Julia non connexes.
Il peut être démontré que dès que le module de zn est strictement plus grand que 2 (zn étant sous forme algébrique, quand xn2 + yn2> 22), la suite diverge vers l'infini, et donc c est en dehors de l'ensemble de Mandelbrot. Cela nous permet d'arrêter le calcul pour les points ayant un module strictement supérieur à 2 et qui sont donc en dehors de l'ensemble de Mandelbrot. Pour les points de l'ensemble de Mandelbrot, i.e. les nombres complexes c pour lesquels z n ne tend pas vers l'infini, le calcul n'arrivera jamais à terme, donc il doit être arrêté après un certain nombre d'itérations déterminé par le programme. Il en résulte que l'image affichée n'est qu'une approximation du vrai ensemble.
Bien que cela n'ait aucune importance sur le plan mathématique, la plupart des programmes générant des fractales affichent les points en dehors de l'ensemble de Mandelbrot dans différentes couleurs. La couleur attribuée à un point n'appartenant pas à l'ensemble dépend du nombre d'itérations au bout desquelles la suite correspondante est déclarée divergente vers l'infini (par exemple quand le module est strictement supérieur à deux). Cela donne plusieurs zones concentriques, qui entourent l'ensemble de Mandelbrot. Les plus éloignées sont constituées de points c pour lesquels la suite (zn) tend « plus rapidement » vers l'infini. Ces différentes zones délimitent d'une manière plus ou moins précise l'ensemble de Mandelbrot.
L'ensemble
Si ,
et
Alors,
La compacité des
Pour voir que la suite
en effet si on a
et une petite récurrence donne pour tout
d'où si
pour voir que
vérifie
Pour
on a déjà
Pour
en effet c'est trivial pour
et vu que
Pour
Les polynômes
(ce qui se traduit géométriquement par la symétrie des
Remarque : Toutes les racines des polynômes
il est facile de montrer par récurrence que
ce qui veut dire que la suite
Une propriété moins évidente à montrer est la connexité des
(à suivre)
En outre, le complémentaire de l'ensemble de Mandelbrot est conformément isomorphe au complémentaire dans
On conjecture que l'ensemble de Mandelbrot est localement connexe.