清朝两江总督端方曾赴欧洲访问,受到西方思潮的影响,1909年,在总督任上开始建造这一座仿法国文艺复兴样式的建筑。未及竣工,即奉清廷之命赴四川镇压革命党。该建筑落成于1910年,即新续任总督 (也是末任总督)张人骏任上。因位于总督署西侧的西花园,又称“西花厅”。
1912年1月1日,孙中山就任中华民国临时大总统,即以此为大总统办公室。1月21日,中华民国临时政府第一次内阁会议也在这里举行。以后先后作为南京留守府、江苏讨袁军总司令部、江苏都督府、督军署、国民革命军总司令部(北伐军总司令部) 、国民政府军委会、参谋本部(军令部)等机构的办公处。