Przedsiębiorstwo Polskie Koleje Państwowe, nad którym nadzór sprawowało Ministerstwo Komunikacji, powstało w 1926 r. Już wcześniej jednak państwowa sieć kolejowa została podzielona na Dyrekcje Okręgowe, sprawujące władzę w granicach wyznaczonych okręgów. Wydziały Warszawskiej Dyrekcji były ulokowane w 12 punktach miasta. Chociaż pomysł budowy jednej siedziby Dyrekcji Okręgowej Kolei Państwowych pojawił zaraz po odzyskaniu niepodległości, to realizacja tej inicjatywy nastąpiła dopiero w drugiej połowie lat 20. Teren pod budowę zakupiono na placu kolejowym obok Dworca Wileńskiego przy ulicy Targowej. Projekt budynku sporządził w 1927 r. architekt Marian Lalewicz. Do prac przystąpiono w marcu roku następnego. Realizacja przebiegała niezwykle sprawnie, bo już w styczniu 1930 r. w nowej siedzibie zainstalowała się część biur.
Za prace budowlane odpowiedzialna była firma Martens i Daab. Oddany do użytku obiekt miał imponującą kubaturę 89 tys. m3, łączna długość korytarzy wynosiła 2 km. Gmach składał się z połączonych ze sobą pięciu pawilonów oraz dwóch niezależnych budynków mieszkalnych, zlokalizowanych od ulicy Inżynierskiej.
Lalewicz zaprojektował budowlę odwołującą się do form akademizmu petersburskiego, z wykorzystaniem elementów należących do szerokiego wachlarza form neoklasycystycznych. Czteropiętrowe skrzydła boczne zostały nakryte dachem czterospadowym, w przeciwieństwie do korpusu głównego – o dachu płaskim. Wysoką partię przyziemia zaakcentowano doryckimi pilastrami oraz belkowaniem. We fryzie umieszczono elementy nawiązujące do funkcji budynku.
W latach 1930-1931 trwało jeszcze kładzenie tynków oraz wykańczanie wnętrz. Ostatecznie wszystkie wydziały instytucji przeniosły się do nowej siedziby 1 lipca 1931 r.
