清朝两江总督端方曾赴欧洲访问，受到西方思潮的影响，1909年，在总督任上开始建造这一座仿法国文艺复兴样式的建筑。未及竣工，即奉清廷之命赴四川镇压革命党。该建筑落成于1910年，即新续任总督 (也是末任总督)张人骏任上。因位于总督署西侧的西花园，又称“西花厅”。

1912年1月1日，孙中山就任中华民国临时大总统，即以此为大总统办公室。1月21日，中华民国临时政府第一次内阁会议也在这里举行。以后先后作为南京留守府、江苏讨袁军总司令部、江苏都督府、督军署、国民革命军总司令部(北伐军总司令部) 、国民政府军委会、参谋本部(军令部)等机构的办公处。