C'est à Charles Péguy (1873-1914) que revient la paternité de l'expression « hussards noirs » à l'usage des enseignants dans L'Argent en 1913 lorsqu'il parle de ses souvenirs d'écolier en culotte courte à l'école primaire annexe de l'Ecole normale de garçons d'Orléans qu'il fréquenta de 1879 à 1885. Ecole annexe où venaient enseigner, en uniformes noirs, les Élèves-maîtres en formation professionnelle qu'il décrit en ces termes :
« Nos jeunes maîtres étaient beaux comme des hussards noirs. Sveltes, sévères, sanglés, sérieux et un peu tremblants de leur précoce, de leur soudaine omnipotence. »
Puis, décrivant leur uniforme noir à pantalon, gilet, longue redingote et casquette plate noirs, il précise que « cet uniforme civil était une sorte d'uniforme encore plus sévère, encore plus militaire, était un uniforme civique. » Pour lui, ces jeunes élèves-maîtres, âgés en fait de 17 à 20 ans, « étaient vraiment les enfants de la République, [...] ces nourrissons de la République, [...] ces hussards noirs de la sévérité... »
Et pour Charles Péguy alors âgé de quarante ans, « cette École normale semblait un régiment inépuisable. Elle était comme un immense dépôt, gouvernemental, de jeunesse et de civisme. Le gouvernement de la République était chargé de nous fournir tant de sérieux [...]. Ces instituteurs étaient sortis du peuple, fils d'ouvriers, mais surtout de paysans et de petits propriétaires [...]. Ils restaient le même peuple... »
Ce surnom vient donc, d'abord, de la couleur noire des uniformes des élèves-maîtres des Écoles normales. Écoles normales créées selon la loi Guizot de 1833 pour les garçons mais Écoles normales revues et corrigées après la victoire des Républicains aux élections de 1879 et l'arrivée de Jules Ferry au ministère de l'Instruction publique et des Beaux-Arts puis à la présidence du Conseil. De ce fait, en effet, la loi Bert de 1879 redéfinit les Écoles normales qui deviennent obligatoires dans chaque département pour les garçons mais aussi maintenant pour les filles. L'institution va alors bannir rapidement toute ornementation religieuse comme tout enseignement religieux pour se consacrer à sa nouvelle mission. Et c'est là peut-être le plus important, de ces Écoles normales sortirent alors des instituteurs qui avaient reçu une véritable mission (le terme n'est pas trop fort) : instruire la population française.
Et c'est ainsi que le jeune Charles Péguy, d'origine modeste, put bénéficier d'une solide instruction primaire de 1879 à 1885 puis d'une bourse lui permettant d'être admis au lycée d'Orléans à partir de 1885.