1952年6月，中央军委把在朝鲜指挥作战的志愿军代司令员陈赓调回国，任命他为军事工程学院院长兼政治委员。  

陈赓开始了艰难的办学，然而摆在陈赓面前的是，一无校舍，二无教师，三无教材和设备。  

困难吓不倒他，一个月后，陈赓在调查研究的基础上，选定在哈尔滨建院。又过了一年零三个月，新中国第一所多军种综合性的军事工程学院——中国人民解放军军事工程学院（简称哈军工）正式成立。钱学森在参观完哈军工后说：“这么短的时间办起这样一所完整的、综合的军事技术学院，在世界上也是奇迹。”  

殊不知，陈赓为创造这一“奇迹”，不知耗费了多少心血！  

办学最大的困难是师资力量缺乏。陈赓向著名专家求教，列出教授名单，想方设法从各地大学调人，并多次拿着名单请周恩来总理批示。  

1952年11月5日，陈赓又找到周总理，周总理正在主持会议，陈赓就在门口等。会议中间周总理上厕所，刚从厕所出来，陈赓就递上了报告。周总理说：“什么事这么急？连解手时间你都不放过。”陈赓说：“您不是让我抓紧时间建哈军工吗？”总理开玩笑地说：“你真有办法，找到厕所来要我办公，这是你的一大发明。”周总理看完报告，立即作了批示。陈赓以非凡之举为哈军工请来大批的优秀教授和专家学者，对他们非常关心。陈赓自己住小平房，而把学院一栋最好的楼房作为他们的宿舍，并为他们专门建了饭厅，请厨师为他们做饭。他还亲自抓专家、教授的家属就业、子女升学等问题。  

对陈赓的做法，当时有个别老干部不理解。对此，陈赓给予了严厉批评：“你们经历了二万五千里长征，是革命的功臣。可他们十年寒窗苦熬出来，也不容易呀。现在我们国家的国防建设迫切需要科学技术知识，你们懂吗？你们是老共产党员，调你们到这里来，是让你们来发扬光荣传统、来带作风的，不是来攀比照顾的！”他接着说：“办学校好比开饭馆，饭馆名声怎么样，关键看大师傅手艺，教授就是掌勺的大师傅，学员是就餐者，我们干部是端盘子的，为教员、学员服务。”  

办学不能没有教学科研大楼，为了建楼，陈赓经常深入基建工地，遇有重大事情，随即与基建办公室的同志一起商谈解决。他不顾自己在战争年代留下的腿伤，多次爬上脚手架同工人交谈，查看工程质量。仅仅7个月时间，10万平方米36栋教学科研大楼便拔地而起。

战争年代留下的伤痛、长期艰苦的生活和超负荷的工作使陈赓的身体每况愈下。医生一再叮嘱他少活动、多休息，可他却不停地操劳奔波。1960年底，陈赓知道属于自己的时间不多了，愈发抓紧时间，想为党多做些工作。他惦念自己亲手创办的哈军工，提笔给院党委常委写信，提出自己对调整后的学院工作的建议。然而，哈军工的师生怎么也没有想到，这竟是陈赓写给他们的最后一封信，1961年3月，陈赓大将与世长辞。他逝世时，董必武怀着极其悲痛的心情，写了一首挽联：“从军原是为人民，百战勋劳总不矜……”