Met meer dan 180 miljoen reizigers per jaar is dit het drukste spoorwegstation van de SNCF, maar ook één van de drukste treinstations ter wereld. Het eerste station ‘Paris-Nord’ werd gebouwd in opdracht van de Chemin de Fer du Nord. Het werd op 14 juni 1846 geopend, tegelijk met de ingebruikname van de spoorlijn Parijs–Amiens–Rijsel van deze spoorwegmaatschappij. Het station bleek al snel te klein. Het werd dan ook in 1860 al weer gesloopt voor de bouw van een nieuw station. De mooie voorgevel werd ‘verhuist’ naar het station Flandres in Lille.
Het nieuwe station, een ontwerp van architect Jacques Hittorff, werd gebouwd tussen 1861 en 1865, maar werd reeds geopend in 1864. De opvallende voorgevel is ontworpen rond een triomfboog met 23 kleine en 6 grote standbeelden. De 23 kleinere staan voor de steden die de Chemin de Fer du Nord aandeed. De zes grotere beelden stellen de internationale bestemmingen voor Parijs, Londen, Berlijn, Wenen, Brussel en Amsterdam. Voor de Nederlanders die met de trein aankomen in Parijs een bekende lokatie.
Maar het nieuwe station bleek ook al snel te klein. Nadat in 1884 al vijf extra sporen waren toegevoegd, werd in 1889 het interieur geheel vernieuwd en werd aan de oostzijde een deel aangebouwd voor de lijnen naar Parijse voorsteden. Tussen de jaren dertig en zestig van de vorige eeuw werd het station verder uitgebreid.
Vanaf 1906 beschikt het station over het metrostation Gare du Nord. Aanvankelijk alleen voor lijn nr. 4 naar het centrum van Parijs, maar vanaf 1908 werd lijn nr. 5 toegevoegd die een verbinding geeft met Gare de l’Est en Gare de Lyon. Metrostation LaChapelle van lijn nr. 2 is door een ondergrondse tunnel met het station verbonden. Verder in de toekomst is nog een ondergrondse verbinding met het nabijgelegen Gare de l’Est voorzien.
Het Gard du Nord is één van de zeven zogeheten ‘kopstations’ van Parijs. De andere stations zijn, Gare de l’Est, Gare d’Austerlitz, Gare Montparnasse, Gare de Lyon, Gare de Bercy en Gare Saint-Lazare.