Soient x et a deux éléments d’un anneau A, tels que x2=a. L'élément x est alors une racine carrée de a. En général (notamment si l'anneau n'est pas intègre, ou s'il n'est pas commutatif), un élément peut avoir plus de deux racines carrées.
La racine carrée sur est définie seulement pour les nombres positifs. Dans la résolution effective des équations polynomiales, l’introduction d’une racine carrée formelle d’un nombre négatif dans les calculs intermédiaires donne des résultats exacts. C’est ainsi que le corps des nombres complexes a été introduit
Pour tout nombre complexe non nul z = a + ib (avec a et b réels), il existe exactement deux nombres complexes w tels que w2 = z. Ils sont opposés l'un de l'autre.
- Si b est non nul, ils sont données par :
avec .
- Si b est nul et a est négatif, cette formule se simplifie en :
- Par ailleurs, si z n'est pas un réel négatif (i.e. si b est non nul ou si a est positif),
Pour trouver w = x + iy tel que w2 = a + ib, on pose le système suivant :
Par identification de la partie réelle et imaginaire, on obtient :
On en déduit alors x2 et y2 en ajoutant et soustrayant les première et troisième équations. Le signe du produit xy est celui de b, d'où la première expression des deux couples de solutions pour x et y.
Mais une manière moins traditionnelle de résoudre ce système est de faire dans un premier temps seulement la somme (des première et troisième équations) :
ce qui, si z n'est pas un réel négatif, mène à la dernière formule.
Pour des raisons de nature topologique, il est impossible de prolonger la fonction racine carrée en une fonction continue vérifiant f(z)2 = z. (Pour plus de détails, voir Racine d'un nombre complexe.)
On appelle détermination de la racine carrée sur un ouvert U de toute fonction continue vérifiant f(z)2 = z.
La détermination principale de la racine carrée est la fonction ainsi définie : si z s’écrit sous forme trigonométrique avec , alors on pose . Cette détermination principale n’est continue en aucun point de la demi-droite des réels strictement négatifs, et est holomorphe sur son complémentaire.
Quand le nombre est dans sa forme algébrique z=a+ib, cette définition se traduit par :
où le signe de la partie imaginaire de la racine est
Notons qu’à cause de la nature discontinue de la détermination principale de la racine carrée dans le plan complexe, la relation devient fausse en général.
Si A est une matrice symétrique définie positive ou un opérateur autoadjoint défini positif en dimension finie, alors il existe exactement une matrice symétrique définie positive ou un opérateur autoadjoint défini positif B tel que B2 = A. On pose alors : √A = B.
Plus généralement, pour toute matrice normale ou tout opérateur normal en dimension finie A, il existe des opérateurs normaux B tels que B2 = A. Cette propriété se généralise à tout opérateur borné normal sur un espace de Hilbert.
En général, il y a plusieurs tels opérateurs B pour chaque A et la fonction racine carrée ne peut pas être définie pour les opérateurs normaux d’une façon satisfaisante (continue par exemple). Les opérateurs définis positifs sont apparentés à des nombres réels positifs, et les opérateurs normaux sont apparentés à des nombres complexes. Les articles sur la théorie des opérateurs développent davantage ces aspects.