22 Eylül 1872’de Pendik’e kadar inşa edilen demiryolunun başlangıç noktasındaki ilk Haydarpaşa gar binası, Kadıköy’ün Çayırbaşı mevkiinde, bugün viyadük olarak kullanılan köprünün altında iki katlı olarak hizmet veriyordu. Bu ufak garın artan demiryolu trafiğini karşılayamaması, mevcut limana büyük tonajlı gemilerin yanaşma imkanı bulunmaması nedeni ile denizin sığ kısmının doldurularak, elde edilecek alana büyük gemiler için liman ve yeni gar binasının inşası öngörüldü. Önce II. Abdülhamit, 20 Nisan 1889’da Anadolu Demiryolu Şirketini, Haydarpaşa Limanı inşaatının yapımı ve işletmesi ile görevlendirdi. Haydarpaşa Liman inşaatına, bugün garın ön kısmında bulunan dalgakıran inşaatı ile başlandı. İnşaatı 1900 yılında Holzman firması üstlendi ve yeni liman 14 Nisan 1903 tarihinde hizmete açıldı.
Limanla birlikte yapılması öngörülen büyük Haydarpaşa Garı’nın ise Otto Ritter ve Helmut Cuno isimli iki Alman mimarın projesi ile 1906 yılında yapımına başlandı. Gar, 1908 yılında tamamlanarak hizmete sokuldu. Neo-Rönesans stilinde olan Haydarpaşa Gar binası, klasik bir Alman mimari örneği. Marmara denizine ve çevreye hakim olan, abidevi ve masif kütlesi ile çevrenin sembolik bir ifadesi haline gelen bu gar binası, her biri 21 metre uzunluğunda 1100 ahşap kazık üzerine inşa edildi. Binanın strüktürü bu kazıklar üzerinde teşkil edilen kazık ızgarası üstünde, Hereke’den getirtilen açık pembe renkli granit taşından yapılmış temel üzerinde yükseldi.
Bundan 20 yıl öncesine bakacak olursak Haydarpaşa Garı; vagon, lokomotif bakım atölyesi, dikimevi (eski haliyle askeri karakol ve muhacir misafirhanesi binaları), TMO Ofisi, gar lokantası, gar karakolu, polikliniği, Demirspor Kulübü, eğitim merkezi, çevresindeki hastaneler, üniversite kampusu, Et Balık Kurumu, vapur iskelesi, dolmuş ve İETT durakları ile kent yaşamına uygun ve ulaşımın entegre olduğu bir özelliğe sahipti.