Det var under året 1840 att Mannheim fick den första järnvägen. Då öppnades banan till Heidelberg lååångt i öst som första steg av Badiska stambanan som går langs Rhenen fram till Basel. Den första stationen låg några meter norr om den befintliga och kunde inte användas när banan förlängdes till Bayern som då började vid andra sidan Rhenen. Det var 1867 att järnvägsbron över floden öppnades. 1876 fick den nya stationen ett nytt stationshus som verkar vara dagens - jag vet inte hur mycket bortom grundstenen är originalt.

1870 öppnades linjen via Schwetzingen och Graben-Neudorf till Karlsruhe (mot syd, öster om Rhenen). 1879 öppnades „Riedbahn” norrut till Biblis (det är i dag stambanan till Frankfurt). Denna linje fick en egen station norr om staden men redan året efter en förbindelse med nuvarande centralstation. Därmed tar järnvägsbyggandet för ca. 100 år slut om man bortser från elektrifieringen under 1950-talet.

Banan via Biblis till Frankfurt är numera en av Tysklands viktigaste linjer och har tät trafik. Den kom till Mannheim österifrån. I samma riktning går banorna till Stuttgart och Basel, detta betyder att lokbyte krävdes i Frankfurt och i Mannheim. Detta medförde problem i driften som kunde lösas genom en ny linje som ankommer från väst. Den invigdes 1985. Två år senare invigdes det första avsnittet av höghastighetslinjen till Stuttgart, 1991 också andra delen fram till Baden-Württembergs huvudstad.
I framtiden kommer en ny linje till Frankfurt att byggas.

Inom det tyska fjärrtågsnätet är Mannheim med bland dem mest viktiga knutpunkten. Merparten av fjärrtågen är ICE och IC, det tillkommer några TGV och nattåg. Resan Moskva - Marseille kan genomföras med bara ett byte i Mannheim. I motsatt riktning missas anslutningen dock, med bara tio minuter.

Regionaltrafiken drivs endast av Deutsche Bahn, merparten med elektromotorvagnar littera 425. Få linjer ser ellokdragna tåg, ännu färre tåg går med dieselmotorvagnar.

Linjerna är:

RE Mannheim - Heidelberg - Bad Friedrichshall-Jagstfeld - Heilbronn (varje timme, antingen via Eberbach eller Sinsheim)
RE Mannheim - Neustadt - Kaiserslautern - Saabrücken (två tågpar, lokdragna tåg)
RE Mannheim - Bergstraße - Frankfurt (varannan timme, lokdragna tåg)
RE Mannheim - Riedbahn - Frankfurt (varje timme, lokdragna tåg)
RB Mannheim - Biblis (varje timme)
RB Mannheim - Schwetzingen - Karlsruhe (varje timme, extratåg i rusningstiden)
RB Mannheim - MA-Friedrichsfeld - Bensheim (två ggr./timme till Friedrichsfeld, vidare varje timme)
RB Mannheim - Worms - Mannheim (mestadels två gg./timme)

Dessutom finns pendeltågsnätet S-Bahn Rhein-Neckar. Men det är bara regionaltågslinjer som fick ett nytt namn.
Linjen S 1 går varje timme mellan Osterburken (vid banan Würzburg - Stuttgart) och Homburg i Saarland. Resan tar ungefär tre och en halv timme. S 2 går på merparten av S 1, också den varje timme.
S 3 och S 4 går mellan Karlsruhe, Heidelberg, Mannheim och Germersheim.