建国后，王树声就任总军械部部长，按照规定有关部门打算给他修建一套设备齐全、装修较好的住房。但王树声谢绝了。他坚持不建单独小院、楼房，只建一般平房。这样，他全家六口人，就居住在一幢狭窄低矮的平房里。  

总军械部撤销后，他到军事科学院工作，组织上决定为他另觅地方，建造新居。开始，找的房址在玉渊潭附近，风景宜人。老将军一眼看中，正待说定，忽然看见不远处有几处民房，即问碍不碍事。规划人员说，如果要在这里建房，就动员那几户人家搬迁。王树声思忖片刻，摆手说：“还是算了吧，凭什么要撵人家老百姓！”  

后来规划人员在故宫筒子河畔找到一处明清时期古建宅院，当时无人居住，就请王树声过目。王树声觉得很不错，便问“这么好的地方，为什么没有人居住呢？”陪同人员说，这原是西藏某上层人物的住所，“文革”中搬走了，如果首长选中这个地方，把老房子拆改一下就行了。王树声一听，连连摇头说：“不妥，不妥，少数民族同志的住房不能占，这是民族政策，他现在不住，以后还是会把他请回来的。再说这是古建筑，破坏不得的，麻烦你们再选一处看看吧。”  

又过了一阵子，规划人员在北京饭店西边找到一处无人居住的四合院。王树声一看比较满意，但一问，这原是某民主党派的办公场所。王树声断然说：“算啦，算啦，怎么好占人家民主党派的机关呢。”陪同人员说他们早被红卫兵赶跑了。“那是胡闹！”王树声眉头一锁道：“民主党派关系到我党的统一政策，我怎么能占人家的房子呢，他们迟早会回来的。”

就这样，王树声一家仍住在原来简陋、低矮的平房里，一住就是十几年，直到他去世。