Bu hat, muhtemel savaş ve isyanlar karşısında sınırlara en kısa sürede asker gönderme ihtiyacını karşılamak amacıyla kurulmuştur. Rumeli Demiryolları olarak adlandırılan bu hat, 1869 - 1875 yılları arasında, Baron Hirsh tarafından inşa edilmiştir. İnşaata 4 Haziran 1870 tarihinde, Yedikule - Küçükçekmece arasında başlanmıştır. 15 km’lik bu hattın yapımında, teknik ekibi Fransız ve Almanlardan oluşan 2000’den fazla işçi çalışmış; Fransa ile Prusya arasında çıkan savaş nedeniyle 1870 yılının sonlarına doğru bitirilebilmiştir. 4 Ocak 1871 tarihinde açılan hattın ilk istasyonları Yedikule, Bakırköy, Yeşilköy ve Küçükçekmece’dir.
Kısa bir süre sonra halktan, hattın şehir merkezine uzak olması ile ilgili şikayetler gelmeye başlamıştır. Hattın başlangıç noktasının Sirkeci olması fikri başlangıçta tartışmalara neden olmuşsa da Sultan Abdülaziz’in izniyle hat sarayın içinden geçirilerek Sirkeci’ye ulaşmıştır. Halkalı’ya kadar uzanan bu hattın yapımı, nihai olarak 1872 yılında tamamlanmıştır.