Le principe d'un magnétomètre fluxgate est de mesurer la projection du champ magnétique terrestre sur un axe, grâce à un matériau magnétique présentant une "saturation". On ajoute à la composante mesurée du champ magnétique terrestre, un champ magnétique alternatif, créé par un courant sinusoïdal qui parcourt une bobine (un solénoïde). Le champ terrestre se comporte un peu comme si on superposait au courant sinusoïdal un courant continu. Il y a donc un déséquilibre entre le passage à la saturation lorsque le champ terrestre "aide" le champ excitateur, et le passage inverse où le champ terrestre "contrarie" le champ excitateur. Ce déséquilibre est mesuré, par une méthode électronique, et donne une mesure de la valeur de la projection du champ terrestre.
Pour avoir la direction (azimut) du champ terrestre, il convient d'avoir deux dispositifs fluxgate dont les axes sont orientés à 90° l'un de l'autre. On mesure ainsi les projections du champ terrestre sur deux axes perpendiculaires, et un simple calcul de trigonométrie (un "arctangente") permet de calculer l'azimut. L'avantage par rapport à un compas magnétique classique est que l'on s'affranchit de l'inclinaison du champ magnétique par rapport à la verticale. C'est aussi très précis et insensible aux accélérations crées par les mouvements d'un bateau. Pour un pilote automatique, c'est donc l'idéal.