中国古代的兵役制度实行的是兵农合一制度，士兵和农民可以实现互相转换。在唐朝以前，政府实施的兵役制度遍及全民，比如汉代是寓兵于农，也就是说汉代的农民只要符合要求随时会被征调为士兵，全农皆兵。而到了唐朝则是寓农于兵，也就是全兵皆农，把生产集团全部寄托在武装集团。简单说就是唐朝的每个军人都要种田，但不是每个农民都要当兵。这个制度起源于北周时期，是北周时期的名臣苏绰发明的。
对比汉代和唐代的两种兵役制度，后者的兵役制度似乎要好些。毕竟中国国家面积大，人口也多，其实并不需要全农皆兵，全农皆兵的后果就是士兵水平参差不齐，训练也不精。而唐代的全兵皆农则可以避免军人坐食粮饷，安逸偷懒，这种制度也被称为府兵制。
之所以叫府兵，因为当时唐朝的地方政府分为州和县两级，而府则是在州和县之外的一种军事区域名称，指军队驻扎地。唐代称之为折冲府，折冲府有上中下三种等级，分别有1200人、1000人、800人。这种府在唐代全国一般有六百到八百个，按照折中算，唐代全国有60-80万左右的军队。
那么这些府兵是如何挑选的呢？当时唐朝的户口被分为九等，等级是根据每家的财富来确定的。按照当时的法律，如果你家是下三等户，那么不好意思，你想当兵，不行！政府只在上中等民户中挑选府兵，这些府兵一般是自愿报名，由政府挑选。被选上府兵的家庭可以免除租庸调（唐朝田赋），但除此之外政府就不给你发饷了，而且你的一身武装都要自己操办。（PS：怪不得不让下三等户参军，因为他们可能连这身武装都买不起，或者买了一身廉价武装，上战场没两下就直接挂了。）
唐朝的这几十万的府兵并不需要国家出一颗粮食、花一文钱来养，因为他们能够靠自己耕种养活自己。这些人既能保家卫国，又能自力更生，唐朝政府简直不要太爽了。
全国府兵的三分之一是分布在长安附近，拱卫首都，其余三分之二则分布在全国，特别是边疆地区。
府兵一般是到了20岁才开始服兵役，每个府兵都要到首都宿卫一年，这也叫上番。其余的时间都在本府，一边耕田，一边操练。府地距离中央五百里的，宿卫一次得五番；距离一千里、一千五百里、两千里、两千里以外分别得七番、八番、十番、十二番。也就是说五百里往返一次，可以抵二千里往返一次。一般情况下，根据番数各府轮流到中央宿卫。如果国家有事，那朝廷可以随时向全国各府抽调。
上面说的是普通士兵，那些军官呢？唐朝的中央管着16个卫，每个卫都设置大将军。每次打仗，就由大将军领兵出征。打完仗呢，就各回各家各找各妈，士兵回到各自的府，军官回到自己的卫。每个折冲府设置一个折冲都尉，他是负责平时操练的。所以这些军官除了打仗时期，他们是没有兵权的，也不会参与政事。
这些军官打仗立了功，朝廷就用勋名奖励他们，所以唐朝的武官又被叫做勋官，勋官只有爵位而没有实职，避免他们干涉政治。这些军官立功后，最高的做到了大将军，但是他们绝大部分人最后的结局还是回家种田了。
唐朝前期就是靠着这个府兵制来统治全国，同时积极开拓边疆，一跃成为当时世界上的强国之一。
然而，随着时间的流逝，府兵制逐渐被破坏，最终也被募兵制给取代了。府兵制的失败主要有以下这些原因：
一、各地府兵到中央宿卫的都是家境比较殷实的，平时生活过得也还算滋润的。唐太宗李世民在位的时候，皇帝本人还经常和他们一起训练，这些府兵很受重视。但是后来太平久了，这些府兵没仗可打，皇帝也就不再重视他们了。那些皇亲国戚平时要建个房子、花园啥的，他们就到军队去要人，这些府兵也就成了苦力了。下次，遇到要宿卫的时候，很多人都开始逃避不去了。
二、唐初，那些府兵外出打仗，万一阵亡了，军队会立即将信息上报中央，中央会立即将消息传到地方，地方政府会立刻到士兵家中慰问，又是给补偿又是给勋爵的。往往人还没运回来，地方的善后工作已经都做充分了，主打一个效率高。但是到了后来，善后工作越做越烂，最后府兵阵亡了，但是知道仗打完了，政府也都还没来慰问，渐渐大家的心都寒了。
三、有勋爵的府兵只是拥有荣誉，并没有实职，本质上他还是一个士兵。如果遇到政府要派他去服力役，他也得乖乖听话，这时候勋爵反而成了一种耻辱。武官的勋爵渐渐被人看不起，军人的地位也就渐渐堕落了。
四、均田制渐渐瓦解，本来唐朝政府对军户的优待却被层层削减，这就又削弱了府兵的积极性。
五、本来唐朝初期，府兵打完仗就可以复员了，戍边的士兵是可以轮换的。但是到了唐玄宗时期，他好大喜功，没事就和周边邻居打仗，导致有些府兵没有复员、没有轮换，边境的军官对他们也是各种苛责，这谁受得了，所以很多人就开始逃兵役了。
基于以上这些原因，曾经风头无限的府兵制就这样渐渐走到了终点，唐朝开始实施募兵制。