大汉初年规定，百姓男丁到了十七岁傅籍(登记)，成为具有兵役义务的待役人员，称之为"正"。"正"到了二十岁起役.轮流应征，服现役两年。
其中一年在本郡为材官或骑士、楼船，另一年就需要赴京师当卫士，或到边郡充戍卒(一说在本郡为材官、骑士、楼船，是正卒;卫士、戊卒为同样性质的服役，均不是正卒。前者系兵役，后者系摇役)。
"正"不服役时，为预备役兵员，遇有战事，须随时应征，到六十岁止。应役年限内的免役，分为复身(本人免役)、夏家(全家免役)两种。凡有一定军功、资历、爵位者，饲养、捐献军马或粮食、钱币达到一定数量者，朝廷礼遇的功臣子孙、学者、高龄者，男子身高不足规定尺寸(尺以下)者，均可免役。
到了孝武皇帝时，大汉开始兼行募兵制。
初募熟悉胡、越的汉族及少数民族人当兵，不再按期更代，等同于职业兵。其后，一旦四方有事，常募兵以备征伐。用募对象多数是农民、流民，少量是犯罪而持许免罪(弛刑)的官吏或百姓，以及被放免的奴隶。又有选募，即择取身体好、胆量大、技能优的"勇敢士"从军。
有时征募不足，则发刑徒为兵(谪兵)，并实行"七科谪"，即谪发有罪之吏、无籍之人、赘婿、商人(含曾作过商人或父母、祖父母作过商人者)为兵。
同时大汉还强调"非教士不得从征"，不仅注重平时因地制宜、因兵种而异的训练，还坚持定期校阅、考核，次行都试(大检阅)制度。
即每年秋季在长安城举行隆重的祭祀仪式，武官和士兵一起演练阵法。在郡国，太守、都尉及县令、县尉组织材官、骑士、楼船，进行射箭、乘马、行船等项军事技能比赛和考核，并且要评定优劣。甚至还会以狩猎形式进行军事演习。
在边境郡国，驻守当地的太守经常会率领所部兵马巡察防务情况，并实行边塞秋射制度，对候长、士史进行射箭考核，合格者有赏，不足吉受罚。训练内容以张弩发矢为主，也综角抵(角力、摔跃)、手博(拳技)、蹴鞠(古代足球运动)等武术、技巧项目。
此外，汉军将士的武器、铠甲、粮食、马匹，均由国家统一提供。国家设有专门的武库。大汉朝廷设考工令负责兵器的制作，设武库令负责兵器的贮备、管理。有的郡国也设有工官、铁官，负责制作器械，并将它们输入京师。长安城中的武库是国家最大的贮藏兵器的中心。不过如今这些工作已经全部由尚书台兵部负责了。
朝廷还屯田解决军粮的补给。汉时大量使用骑兵，马政成为国之大政，在奖励民间养马的同时，在北边、西边均置苑养马。孝景皇帝时有苑三十六所，官奴婢三万人，养马三十万匹;孝武皇帝时官马达到四十余万匹，为骑兵的发展和对匈奴作战创造了条件。
此时在未央宫明台上，天子刘洵与尚书令丙吉、尚书台兵部尚书史曾、大司马富平侯张安世三人商议了半夜，众人先是从大汉现有的征兵制度入手，将大汉现有的征兵制度梳理了一番，而后才进入正题，开始商议改革之事。