后期，改设三公为最高行政首脑，大司马主掌军政，位列大司徒(丞相改)、大司空(御史大夫改)之上。
东汉相沿，大司马复称太尉，名为军事和行政首领，实际上总理国家军政要务、直接掌握军队的中枢是皇帝的秘书班子尚书台。
中叶以后，外戚任大将军者操纵国政，把持兵权，成为朝廷最高军政长官，与三公合称“四府”。此外，汉朝沿用古代监军制度，多遣中郎官和近侍(如太中大夫、监军）。
凡有大的战争，则由皇帝颁诏，以虎符或“符”、“节”为凭，征调各地军队出征；
择选全军主帅和各路统帅，以大将军、骠骑将军、车骑将军、卫将军等充任；
将军开府置幕僚，组成指挥机构。
武帝以后，大将军及其幕府长期设置，战时指挥作战，平时参与朝政，实权甚大。
在地方，汉朝郡、国并行。
郡置太守，为地方最高军政长官，以都尉辅佐掌管兵员征集、训练、考核校阅、维持治安、率军出征，以及武器装备的制造、管理等。
郡下设县，县令(长)兼理军、民两政，置县尉助理军事和掌管治安。