La première « station d'Ermont » est inaugurée le 14 juin 1846 lors de l'ouverture de la ligne Paris-Lille-Frontière belge par la Compagnie des chemins de fer du Nord. Cette ligne passait alors par la vallée de Montmorency avant de bifurquer vers le Nord-Est à Saint-Ouen-l'Aumône et de suivre la vallée de l'Oise. Ce choix singulier - car faisant un sérieux détour au nord-ouest de Paris - répond à une logique strictement financière : en effet, le coût de construction était plus restreint en suivant les fonds de vallées, un seul ouvrage d'art d'importance (un pont sur l'Oise à Auvers-sur-Oise) étant à construire. L'itinéraire actuel plus direct par la plaine de France et Chantilly n'a été mis en service qu'en 1859, au prix de la construction de deux viaducs importants et d'un nouveau pont sur l'Oise à Creil, n'accordant plus dès lors qu'un rôle de desserte secondaire à cet ancien itinéraire via la vallée de Montmorency.
La « gare d'Ermont » est construite en 1er août 1863 à l'occasion de l'ouverture d'une jonction entre Argenteuil et Ermont via Sannois. En 1878, elle est déplacée à la jonction de cette ligne avec celle de Pontoise où le nouveau bâtiment voyageurs sera démoli en 2005. Elle est renommée « gare d'Ermont — Eaubonne » en 1893.
L'ouverture de la liaison Ermont - Valmondois a lieu le 26 août 1876. La ligne des Grésillons ou des Docks reliant Ermont — Eaubonne à la gare du Nord via Gennevilliers et l'ancienne gare de La Plaine-Tramways est quant à elle mise en chantier en 1905 et inaugurée le 1er juillet 1908.
Comme dans beaucoup de communes d'Île-de-France, l'arrivée du chemin de fer eut pour conséquence le lotissement progressif des terres agricoles et des parcs de châteaux, à Eaubonne en particulier, et l'arrivée au début du XXe siècle d'une population d'ouvriers et d'employés séduits par le cadre, les terrains peu chers et la proximité nouvelle de la capitale. Cette nouvelle population fut à l'origine d'une profonde mutation sociale des communes concernées avec l'évolution de ces petites communes viticoles et maraîchères en « banlieues dortoir ».
Sur le réseau Nord, l'électrification arrive sur la ligne Paris/Lille par Creil le 9 décembre 1958 puis sur les lignes Paris-Bruxelles via Compiègne et Paris-Mitry-Crépy-en-Valois en 1963.
La modernisation de l'itinéraire Paris-Nord - Pontoise est alors lancée avec pour but d'améliorer les performances de cette ligne dont la fréquentation est en hausse constante avec l'urbanisation croissante de la banlieue nord et de faire disparaître les locomotives à vapeur 141 TC du dépôt des Joncherolles tractant les robustes mais spartiates voitures de banlieue Nord à la fin de 1970. En avril/mai 1969, la traction électrique est en service sur Paris - Pontoise et Pontoise - Creil accompagnée de la signalisation par block automatique lumineux. À cette occasion, la troisième voie centrale dite de « relation » de la section Enghien-les-Bains - Ermont est banalisée (ne pas confondre avec les IPCS installations permanentes de contre-sens) afin de fluidifier le trafic. Les anciennes cabines 1 et 2 d'aiguillage sont remplacées par un poste… qui comprend plusieurs postes en son sein : un PRS pour la zone Enghien et un morceau du PELI MORS de la gare Saint-Lazare conçu en 1963 et démonté en deux parties (l'une installée à Ermont l'autre à Rouen RD). Au Poste à leviers type Mors a été ajouté ultérieurement un PRS pour la zone Nord (Cernay) et un PMV pour l'entrée des voies de garage paires lors de l'arrivée de la ligne C. La ligne Paris - Persan-Beaumont via Montsoult et l'antenne de Luzarches sont mises sous tension en mai 1970. Puis finalement, c'est au tour de l'antenne d'Ermont — Eaubonne à Valmondois le 11 décembre 1970. La dernière liaison Paris - Ermont à vapeur s'est élancée le 12 décembre 1970 à 12 h.
Le court embranchement (4 257 m) Ermont - Argenteuil continue à être exploité sous forme de navettes diesel (BB 66000 du dépôt de La Plaine tractant des rames Talbot) avant l'électrification de ce tronçon en avril 1983 avec installation connexe du BAL. Cette opération est poursuivie finalement sur la ligne d'Ermont — Eaubonne à Saint-Ouen-les-Docks en 1988 dans le cadre de la création de la « VMI », branche Nord-Ouest du RER C mis en service le 25 septembre 1988.