希臘是第一個擁有路軌運輸的國家。至少二千年前已有馬拉的車沿著軌道運行。
1804年，理查·特里維西克在英國威爾士發(fā)明了第一臺能在鐵軌上前進的蒸汽機車，但沒賺到什么錢。
第一臺取得成功的蒸汽機車是喬治·斯第芬孫在1829年建造的“火箭號”。
1820年代，英格蘭的史托頓與達靈頓鐵路成為第一條成功的蒸汽火車鐵路。后來的利物浦與曼徹斯特鐵路更顯示了鐵路的巨大發(fā)展?jié)摿Α?br>很快鐵路便在英國和世界各地通行起來，且成為世界交通的領導者近一個世紀，直至飛機和汽車發(fā)明才減低了鐵路的重要性。
高架電纜在1888年發(fā)明后，首條使用接觸網供電的電氣化鐵路在1892年啟用。
第二次世界大戰(zhàn)后，以柴油和電力驅動的列車逐漸取代蒸汽推動的列車。1960年代起，多個國家均建置高速鐵路。而貨運鐵路亦連接至港口，并與船運合作，以貨柜運送大量貨物以大大減低成本。
現時在全球236個國家和地區(qū)之中，有144個設有鐵路運輸(包括全世界最小的國家梵蒂岡在內)，其中約90個國家和地區(qū)提供客運鐵路服務。鐵路依然是世界上載客量最高的交通工具，擁有無法被取代的地位。
中國第一條鐵路吳淞鐵路建于上海，由英國人興建，后被清朝地方官員買回并拆毀。而正式使用的第一條鐵路和蒸汽機車則是由李鴻章興辦的開灤公司煤礦所建