南北朝后期，北朝出現(xiàn)了“府兵制”。西魏的字文泰在大統(tǒng)九年（公元５４３年），廣泛招募各地漢族豪強(qiáng)地主從軍，通過(guò)他們的從屬關(guān)系，帶來(lái)了大量家兵、部曲等私人武裝。西魏政權(quán)根據(jù)他們所帶軍隊(duì)的眾寡，授予各種不同爵位。這種使地方割據(jù)的私人武裝中央化的辦法，不但增強(qiáng)了朝廷軍力，同時(shí)使鮮卑部落兵與漢族封建兵制逐漸結(jié)合，創(chuàng)置了“府兵制”。

    西魏末年，府兵由六個(gè)柱國(guó)大將軍率領(lǐng)，每柱國(guó)下設(shè)兩個(gè)大將軍，一個(gè)大將軍下又有兩個(gè)開(kāi)府將軍，共有二十四軍。當(dāng)時(shí)府兵與民籍分開(kāi)，不屬郡縣管轄，他們只管打仗，不負(fù)擔(dān)其它賦稅。

    府兵制到了隋朝起了很大變化。軍府名稱為驃騎府，以驃騎將軍為長(zhǎng)官。軍士開(kāi)始編入戶籍，從事生產(chǎn)。隋煬帝時(shí)，府兵直接從民間征調(diào)，男子年滿二十一歲即可參加府兵。全國(guó)府兵由十二衛(wèi)分領(lǐng)。大業(yè)三年（公元６０７年）改驃騎將軍府為鷹揚(yáng)府。長(zhǎng)官為鷹揚(yáng)郎將。軍人稱“衛(wèi)士”。衛(wèi)府制度趨于完善，中央集權(quán)在軍制上得到加強(qiáng)。

    唐初全國(guó)共有六百三十四個(gè)府，均由十二衛(wèi)和東宮六率分領(lǐng)。一改隋朝鷹揚(yáng)府為折沖府，每府府兵歸折沖都尉管轄。并規(guī)定在設(shè)府的地方，人民有充府兵的義務(wù)。服役年齡是二十至六十歲．應(yīng)征充當(dāng)府兵的人，平日務(wù)農(nóng)，農(nóng)閑教練，征發(fā)時(shí)自備兵器、資糧。這實(shí)際上是一種兵農(nóng)合一的兵役制度。證調(diào)服役的人，定期宿衛(wèi)京師或戍邊；戰(zhàn)時(shí)出征，戰(zhàn)事完畢，即“兵散于府，將歸于朝”。