Worauf genau fahren die Züge eigentlich? Der sogenannte Oberbau, also der Gleiskörper, besteht aus dem Gleisbett, meist Schotter, Schwellen und Schienen. Bei Baubeginn der Ludwig-Süd-Nord-Bahn befand sich dieses dreiteilige System erst noch in der Entwicklung. Am Anfang wurden zum Beispiel statt durchgängigen Schwellen Steinwürfel aus Sandstein oder Granit verwendet – gut fürs Flachland. Aber für die Schiefe Ebene musste das Gleis deutlich stabiler sein. Daher wurden hier auf der steilen Strecke Querschwellen eingesetzt – zunächst aus Holz, später aus Stahl und heute meistens aus Beton. Sie halten die Schienen auf dem festen Abstand von 1.435 Millimetern. Bei modernen Strecken für Züge, die mit Hochgeschwindigkeit fahren, ersetzt die „Feste Fahrbahn“ aus Betonfertigteilen das Schotterbett.
Das eigentliche Trag- und Führungselement sind die Schienen. Früher wurden sie mit hakenförmigen Nägeln und Unterlagsplatten auf den Holzschwellen befestigt, nur mit Bolzen, Muttern und Klemmen. Erste gusseiserne Schienen waren kurz und neigten zu Brüchen. Dann kamen gewalzte Schienen auf, was diese Mängel beseitigte. Anfangs gab es „Stuhlschienen“: Die Schiene ruhte auf dem „Stuhl“, der auf dem Steinwürfel saß. Sie waren spiegelgleich gebaut mit einem Kopf oben und einem unten. War einer davon abgenutzt, drehte man die Schiene um. Das sparte viel teures Material. Durchgesetzt hat sich dann aber die „Vignoles-Schiene“ mit pilzförmigem Querschnitt und breitem Fuß, weil sie tragfähiger war.
Je schwerer und schneller ein Zug, umso schwerer das Profil: In Deutschland gilt dafür die Metermasse. Zuerst betrug sie 12 bis 25, ab 1920 stieg sie dann auf 49 Kilogramm pro Meter, abgekürzt S 49. Die Standardprofile heute liegen bei 54 oder 60 Kilogramm pro Meter. In einem Kilometer Gleis stecken heute fast 132 Tonnen Stahl!