Le principe de l'établissement d'une ligne reliant Paris à la Belgique et au rivage de la Manche est admis comme prioritaire dès 1831. En 1834, le gouvernement charge Vallée, ingénieur des ponts et chaussées, de rapprocher les trois royaumes de France, de Belgique et d'Angleterre. Le 15 février 1838, le gouvernement présente aux Chambres un projet de loi où figure comme prioritaire la ligne de Paris à Lille avec embranchement vers Boulogne par la vallée de la Somme. Mais cette proposition échoue, car le financement n'est pas prévu pour cette ligne dont l'exécution aurait été prise en charge par l'État.
En 1843, Stephenson relance le projet en élaborant un tracé, finalement adopté et exécuté par l'État. La ligne, longue de 338 kilomètres, relie Paris à la Belgique via Lille ou Valenciennes, en desservant Amiens, Arras et Douai. Les lignes Lille - Mouscron et Valencienne - Quiévrain ont été préalablement ouvertes dès 1842 en liaison avec le réseau belge. Trois embranchements complémentaires sont prévus : Creil - Saint-Quentin par la vallée de l'Oise, Amiens - Boulogne par la vallée de la Somme et Lille - Calais - Dunkerque.
Dès 1843, les travaux débutent et progressent rapidement, la ligne étant dénuée de grands ouvrages d'art. Les tunnels ont par ailleurs été évités, celui de Marly-la-Ville en particulier, en détournant la ligne par la vallée de l'Oise à proximité de Pontoise. Si les viaducs sont peu nombreux et de faible ampleur, les passages à niveaux sont en revanche multiples, y compris sur les routes royales, l'État s'étant autorisé à franchir par ce biais des itinéraires majeurs comme les routes royales Paris - Amiens ou Paris - Calais par Beauvais.
Les terrassements sont a contrario de grande ampleur : pas moins de 1 850 000 mètres cubes de Paris à Clermont, et 2 000 000 de Clermont à Amiens, en particulier des tranchées dans les calcaires et la craie. Sur ce dernier tronçon, un faîte de cent-trente-cinq mètres de hauteur a été coupé, permettant de limiter la rampe entre les vallées de l'Arre et de la Noye. Parmi les principaux travaux de génie civil, on peut citer le creusement, délicat dans un terrain pierreux, d'une profonde tranchée de treize mètres de profondeur à Maubuisson, suivi peu après de la construction d'un pont en pierre de taille sur l'Oise, comportant trois arches. D'Amiens à Lille, les ouvrages d'art sont plus nombreux. Autour d'Amiens, le sol tourbeux des fonds de vallées a dû être consolidé de Boves à Corbie. Le pont en biais sur l'Escaut, avant l'arrivée à Valenciennes, figure parmi les principaux ouvrages d'art de la ligne.
Une quarantaine de gares jalonnent le parcours : Saint-Denis, Enghien, Pontoise, Persan-Beaumont, Creil, Clermont, Amiens, Douai, Lille et Valenciennes figurent parmi les principales. Les stations d'Amiens et de Lille sont construites en impasse : les nécessaires rebroussements ralentissent le trafic voyageurs. Toutefois, des raccordements directs permettent aux convois de messageries et de malles-postes à destination de la Belgique et de l'Allemagne de les éviter.
Les travaux, d'un coût total de soixante-seize millions de francs, sont dirigés par deux ingénieurs en chef : Onfroy de Breville pour le tronçon Paris - Amiens, et Busche d'Amiens à la frontière belge. Une compagnie franco-britannique reçoit la concession de la nouvelle ligne le 9 septembre 1845, à charge pour elle d'assumer la totalité des dépenses de réalisation, soit de rembourser l'État des fonds avancés, et d'en assurer l'exploitation, dépense estimée à cent-cinquante millions de francs. Cette compagnie résulte de la fusion de diverses sociétés, dont celles de Rotschild frères, Hottinguer, Baring frères, Laffitte-Blount, D'Eichthal, Gouin, Malet frères, Pillet Will....
La Compagnie des chemins de fer du Nord, ainsi créée et constituée d'un capital de deux-cents millions de francs, prend livraison du premier tronçon réalisé de Paris à Pontoise le 7 janvier 1846, y compris l'embarcadère de Paris-Nord. Quelques jours plus tard, les deux voies sont ouvertes jusqu'à Clermont, et la section Paris - Clermont est inaugurée le 25 janvier 1846. Le convoi officiel parcourt ce tronçon en trois heures, à la vitesse moyenne de 24 kilomètres à l'heure. Le 1er avril 1846, un autre tronçon est ouvert, entre Arras, Lille et Valenciennes.
La ligne est achevée en totalité et inaugurée avec faste selon la volonté du baron James de Rothschild, qui lance pas moins de trois mille invitations. Les célébrations de l'inauguration se déroulent dans l'enthousiasme général du 13 au 16 juin de Paris à Bruxelles. Les plus hautes personnalités de l'époque sont présentes, dont deux des fils du roi, Nemours et Montpensier, les écrivains Odillon Barrot, Berlioz et son orchestre, Alexandre Dumas, Théophile Gauthier, Victor Hugo, Ingres, Lamartine ou encore Mérimée. Un magnifique banquet est organisé à Lille, avec 1700 convives et 28 300 assiettes, transportées depuis Paris, suivi d'une autre réception à Bruxelles, le roi et la reine de Belgique accueillant les princes parmi les acclamations du peuple.
La ligne est ouverte le 18 juin 1846, neuf mois seulement après son adjudication. Elle passe alors par la vallée de Montmorency avant de bifurquer vers le nord-est à Saint-Ouen-l'Aumône et de suivre la vallée de l'Oise. L'ouverture de la ligne permet la mise en œuvre d'un service international vers Bruxelles et Ostende : un convoi quitte Paris à 8 h 30 et parvient à 21 h à Bruxelles. Un train postal quitte Paris à 19 h, et atteint Amiens après de nombreux arrêts. Il parvient à Lille et Valenciennes à 5 h du matin le lendemain, 8 h à Gand, 9 h à Bruxelles. Du 21 juin au 1er septembre, une seule voie est disponible au-delà d'Amiens, provoquant des ralentissements ; le service devient plus tard assez régulier, seulement ralenti par l'excès de zèle des douaniers. Les tarifs sont très étudiés : pour Paris - Lille, ils sont de 28,6 F, 21,55 F et 16 F, respectivement en 1re, 2e et 3e classe. Avec la vitesse, ils séduisent la clientèle, et permettent une rapide hausse du trafic voyageurs : fin 1847, la ligne a transporté quatre millions de voyageurs, ainsi que 3,5 millions de tonnes de marchandises.
À l'origine, les circulations Paris - Lille doivent effectuer un rebroussement en gare d'Amiens-Saint-Roch. En mars 1849, un raccordement direct est mis en service à Longueau, permettant un gain de temps et évitant de fastidieuses manœuvres. Toutefois, il a pour revers d'empêcher la desserte d'Amiens par les trains du courant Paris - Lille.
Le succès de la ligne, tant pour les grandes lignes qu'en banlieue de Paris où le trafic se développe rapidement, entraîne une rapide saturation des voies. En effet, ce sont quatre voies qui relient Creil à la Belgique, via Lille d'une part, et Saint-Quentin d'autre part, qui se déversent sur les deux voies reliant Paris à Creil, déjà encombrées par le service de banlieue. Ainsi l'itinéraire plus direct par la plaine de France et Chantilly, prévu à l'origine mais reporté en raison des coûteux travaux de génie civil à prévoir et des rampes plus sévères, est de nouveau d'actualité.
En 1835, l'ingénieur Vallée projette deux tracés pour relier Paris à Creil, ville considérée comme le point de divergence des deux grands itinéraires vers Lille et Saint-Quentin : un se dirigeant vers Pontoise via la vallée de Montmorency, puis suivant la vallée de l'Oise, qui est finalement retenu ; et un autre, plus direct, coupant le plateau de France et traversant la crête séparant les bassins de la Seine et de l'Oise par un long tunnel de 2700 mètres, aux alentours de Marly-la-Ville. Le premier est retenu, bien que plus long d'une vingtaine de kilomètres, car il possède un profil en long plus favorable et évite la construction du tunnel de Marly dans des terrains difficiles, ce qui effraie les entrepreneurs de l'époque. Par ailleurs, il permet de constituer un tronc commun avec la ligne prévue de Paris à Rouen par les plateaux, qui ne sera jamais réalisée, l'itinéraire finalement retenu passant par la vallée de la Seine.
L'accroissement rapide de la puissance des machines permet d'éliminer relativement l'inconvénient de la longue rampe, ainsi que la réalisation du long tunnel prévu à l'origine du projet. Toutefois, cet itinéraire, plus court géographiquement, impose la réalisation de nombreux déblais et remblais, et surtout d'imposants ouvrages d'art, en particulier dans la traversée de la forêt de Chantilly afin de franchir les deux vallées encaissées de la Thève et le la Nonette. Dès 1845, la Compagnie du Nord envisage la réalisation d'un tronçon de Saint-Denis à Louvres, ainsi que son prolongement éventuel jusqu'à Creil, peu désireuse de voir cette région, située entre la ligne du Nord et la ligne de Strasbourg, investie par une compagnie concurrente si près de son réseau.
Ces considérations amènent le gouvernement à concéder le tronçon à la Compagnie du Nord, par décret du 13 août 1853. Elle doit établir, dans un délai de cinq ans, un chemin de fer à double voie, dont la dépense est évaluée à quinze millions de francs. Les études s'achèvent et sont approuvées en avril 1855. Le tracé affronte une différence d'altitude de 78 mètres entre Saint-Denis et le point culminant de la ligne, 23 kilomètres plus au nord, suivi d'une dénivellation de 102 mètres, sur les 21 derniers kilomètres. En 1857, le chantier est lancé en plusieurs points du tracé. Ce tronçon possède plusieurs ouvrages d'art d'importance, dont deux viaducs et un pont important sur l'Oise ; il est de plus le plus chargé en terrassements, avec pas moins d'un million de mètres cubes de terre déplacée, ce qui en fait le plus coûteux de tout le réseau de la Compagnie du Nord.
La ligne se détache de l'itinéraire Paris - Lille originel après la gare de Saint-Denis, près du fort de la Briche, coupe tout droit à travers le plateau calcaire du pays de France. Après la gare de Louvres, elle se dirige vers le nord et franchit le faîte par deux grandes tranchées. Le tracé se dirige alors vers l'Oise à travers une zone boisée, sur un sol peu résistant de sables et d'argile. La vallée de la Thève, à proximité des étangs de Commelles, est franchie par un viaduc de quarante mètres de hauteur et de 331 mètres de long, constitué de quinze arches en plein cintre, réalisé en maçonnerie creuse afin d'alléger les piles qui reposent sur un sol mouvant. Après la gare de Chantilly, un autre viaduc, le plus important du tronçon, permet à la ligne de franchir la vallée de la Nonette. Long de 440 mètres et haut de 21 mètres, il est établi sur un sol tourbeux. Ses piles reposent sur 2200 pieux en bois de chêne, enfoncés à vingt mètres de profondeur, afin de l'asseoir solidement. Peu avant la jonction avec l'ancien itinéraire, entre Saint-Leu-d'Esserent et Creil, la ligne franchit l'Oise par un pont biais en pierre, de 330 mètres de long et de 40 mètres de haut. Le remblai, dont la masse pèse trop lourdement sur la première culée du pont, impose la réalisation d'une maçonnerie voûtée.
Le nouvel itinéraire de Saint-Denis à Creil, long de quarante-trois kilomètres, est mis en service le 10 mai 1859 jusqu'à Villiers-le-Bel, puis le 1er juin 1859 jusqu'à Creil, n'accordant plus dès lors qu'un rôle de desserte secondaire à l'ancien itinéraire via Enghien-les-Bains et Pontoise. Le trajet de Paris à Creil s'effectue dorénavant en cinquante minutes par les rapides de première classe, une heure quarante par les omnibus, ce qui permet un gain de temps de trente minutes sur le trajet par Pontoise. Outre le gain de temps, le raccourcissement du trajet, de dix-sept kilomètres, permet aux voyageurs une économie de deux francs sur le billet de première classe.
Avec 160 à 180 rames par jour dès la fin du XIXe siècle, la coexistence de rapides et express avec une desserte de type banlieue omnibus entre Paris et Creil connaît des difficultés croissantes. Le succès de la ligne entraîne de nécessaires augmentations de capacité afin d'assurer une meilleure régularité. Le quadruplement de la ligne est envisagé de Paris à Creil sur cinquante kilomètres, mais le projet se limite très vite à Paris - Survilliers, soit une trentaine de kilomètres, pour cause d'économie, mais aussi parce que cette gare constitue un terminus de banlieue intermédiaire.
L'avant-projet est pris en considération le 7 janvier 1901 et la déclaration d'utilité publique est publiée par décret le 28 mars 1902. Le quadruplement des voies prend la forme de deux doubles voies parallèles, l'ancienne ligne réservée au trafic banlieue à l'ouest, et deux nouvelles voies directes situées du côté est affectées aux trains rapides, sans quais de desserte des gares intermédiaires et possédant de simples communications de secours. Les nouvelles voies sont mises en service le 15 avril 1905. À cette occasion, la Nord modernise les anciennes voies avec généralisation du block-system, diminution de la longueur des cantons et suppression de tous les passages à niveau. Peu après la gare de Survilliers, à La Chapelle-en-Serval, un saut-de-mouton permet le reclassement des voies paires et impaires.
Durant les années 1920, le réseau de la banlieue nord souffre de plusieurs défauts qui rendent la desserte insuffisante. Alors que le réseau Ouest connaît une importante modernisation avec l'électrification partielle, la mise en place d'automotrices modernes ainsi que d'un service à horaires cadencés, le réseau nord reste peu adapté à une desserte de type banlieue. La traction vapeur est maintenue, les gares sont trop espacées, les terminus intermédiaires sont trop peu capacitaires et le nombre de voies de réception à la gare du Nord est insuffisant. Une première amélioration est néanmoins mise en place avec la mise en service de rames réversibles et de locomotives à vapeur plus puissantes possédant de meilleures accélérations.
La ligne souffre par ailleurs des deux conflits mondiaux. Lors de la Première Guerre mondiale, une large partie de la ligne est au cœur des combats, ce qui entraîne de nombreuses destructions. Lors de la Seconde Guerre mondiale, les allemands en retraite font sauter à l'explosif de nombreux ponts et viaducs autour de la capitale, la nuit du 25 au 26 août 1944 : le viaduc de la Canardière à Chantilly, ainsi que tous les ponts sur l'Oise dont celui de Laversine sont coupés. Le trafic est fortement désorganisé ; seule la ligne Paris - Hirson est alors entièrement praticable sur le réseau Nord au départ de Paris. La ligne est rouverte dans son intégralité le 30 septembre 1945.
Contrairement au Sud-Ouest ou à la ligne Paris - Lyon, l'électrification des grands axes du Nord et de l'Est de la France arrive avec un certain retard. Cette situation s'explique par la présence de riches gisements de charbon sur place, et plus encore par la réticence des autorités militaires vu la proximité de frontières souvent violées, un réseau électrifié étant considéré comme plus fragile en cas de destructions. Toutefois, la pertinence économique et technique de l'électrification est démontrée et l'artère Nord-Est entre Valenciennes et Conflans-Jarny est électrifiée. En seconde étape, l'électrification est poussée jusqu'à Lille au nord, et autour des étoiles de Thionville et Metz à l'est.
Le gouvernement décide en juillet 1954 d'électrifier la ligne Paris - Lille ainsi que son itinéraire alternatif via Verberie et diverses lignes du Nord-Pas-de-Calais, aux trafics voyageurs et fret particulièrement élevés, soit au total 547 km de ligne dont 12 à voie unique. Le réseau Nord profite alors des progrès accomplis en la matière, avec la maîtrise du courant industriel 25 kV-50 Hz, dont il est le second à bénéficier après le réseau Est. Au milieu des années 1950, l'axe Paris - Lille voit circuler 10 000 voyageurs par jour, soit 600 millions de voyageurs-kilomètre, auquel il faut ajouter le trafic en direction de la Grande-Bretagne jusqu'à Amiens, ainsi qu'un trafic fret assez diversifié : denrées agricoles, produits manufacturés, produits métallurgiques, dont dix millions de tonnes de houille par an.
Les habituels avantages attendus de l'électrification sont l'accélération des circulations voyageurs grâce aux meilleures performances des locomotives électriques, et l'accroissement du tonnage, tant pour les voyageurs en évitant les dédoublement de trains en période de pointe, que pour les marchandises, une locomotive de type CC pouvant emmener de 2000 à 2400 t de fret. Six sous-stations sont réalisées à Saint-Denis, Creil, Gannes, Lamotte (près de Longueau), Achiet et Terre-Noire (près de Douai), toutes commandées à partir du central de Douai. Les installations sont modernisées à l'occasion, notamment la signalisation ainsi que plusieurs postes d'aiguillage, remplacés par des postes d'aiguillage tout relais à transit souple (PRS). Deux sauts-de-mouton sont également réalisés, un au sud de Creil, dit de Laversine, évitant les cisaillements des courants Paris - Lille et Paris - Saint-Quentin - Bruxelles en gare de Creil, et un à Lille, dit de Becquerel. Enfin, de profonds remaniements du plan des voies ont lieu dans les gares de Paris-Nord et Lille.
Les travaux démarrent en 1955 et sont activement menés. La ligne Paris - Lille via Creil est mise sous tension en plusieurs étapes : en octobre 1957 sur le tronçon Somain - Douai - Ostricourt (Lens), en février 1958 sur le tronçon Douai - Longueau, et enfin le 9 décembre 1958 sur le tronçon Longueau - Paris-Nord. L'inauguration officielle de l'électrification par Robert Buron, ministre des Travaux Publics, des Transports, et du Tourisme, a lieu le 7 janvier 1959. Le train inaugural est tracté par la BB 16009. Elle est suivie par les lignes Creil - Bruxelles via Compiègne et Paris - Mitry - Crépy-en-Valois en 1963.
D'importants travaux connexes sont engagés à Paris-Nord et dans son avant-gare, avec l'ouverture d'un important poste d'aiguillage tout relais à transit souple (PRS). En outre, deux points d'arrêt sont créés sur la ligne, à Garges - Sarcelles et Les Noues, afin de desservir des zones d'habitat collectif en plein développement. Un terminus central de zone est également établi à la gare de Villiers-le-Bel - Gonesse - Arnouville, équipée à l'occasion d'un PRS.
Afin de prolonger le service de banlieue de quatre kilomètres, la section La Chapelle-en-Serval - Orry-la-Ville est quadruplée en mai 1962, ce qui permet de prolonger les trains de Survilliers à Orry. Un poste d'aiguillage tout relais à transit souple (PRS) est également intégré au bâtiment-voyageurs de la gare d'Orry-la-Ville et une nouvelle halte est créée à La Borne Blanche. Plus au sud, un terminus central intermédiaire est réalisé à Goussainville, avec des voies de garage supplémentaires. L'ensemble est mis en service, avec un nouveau PRS, le 6 décembre 1964.
Au début des années 1980, l'augmentation du trafic provoque la saturation du tronçon Paris - Creil. Afin d'en augmenter la capacité, la section d'Orry à Chantilly est triplée : cette augmentation du nombre de voies impose la reconstruction du viaduc de Commelles. En 1982, un nouveau viaduc en béton précontraint est réalisé à côté du premier. Avec ses 380 mètres de longueur et ses poutres cantilever de 45 mètres de portée, il est à l'époque le plus long pont-rail pour quatre voies électrifiées. En 1985, l'ancien viaduc en pierre, devenu sans objet, est détruit à l'explosif. Il n'en subsiste depuis que les fondations.
Mais la ligne connaît sa plus importante transformation avec l'ouverture de la LGV Nord en 1993. De grands travaux de réaménagement sont engagés à Paris-Nord et dans son avant-gare, et une cinquième voie est posée entre Pierrefitte et la nouvelle bifurcation de Gonesse, vers la ligne à grande vitesse. En 1995 et 1996, les services Eurostar puis Thalys sont lancés, faisant perdre à la ligne classique ses trains les plus nobles, en détournant la quasi-totalité du trafic voyageurs entre Paris et le Nord, puis le Benelux et l'Allemagne. Elle ne voit circuler depuis que les « Corail », devenus « Intercités », en direction de la Picardie et d'une partie du Nord-Pas-de-Calais ainsi que les trains de la ligne D du RER, ceux des TER Picardie et Nord-Pas-de-Calais.