魏国的军队，始建于曹操。董卓进军洛阳时，曹操"散家财，合义兵"，组织私人部曲五千人参加了讨董卓的战争。俟董卓被杀之后，曹操自任兖州牧。 为了扩充实力，他极力拉拢地方豪强地主武装。李典、许褚、任峻等都率领自己的部曲归附于他，成为曹操的亲信部队，也是以后魏军的骨干。 官渡之战前夕，曹操据有司、兖、豫、徐、青五州，战胜袁绍集团后，又陆续占领冀、并、青、幽等州，其统治区域扩展到中原全部。 这时局面大了，再不能象过去一样，带领一支军队到处征战，因之便产生了留屯的办法。平定一个地方，即留一部分军队在那里驻防，并由一人任统帅，统摄辖区内诸军。这种留屯制，就是魏晋盛行的军事上分区的都督诸军制的源头。 这种体制下，国家军队分成内外两部，一为地方军队，亦称“州郡兵”，二为中央直辖的军队。前者由留屯在外的将军与都督所领的称为外军，后者宿卫京师、随同权臣或君主出征的主力精锐则称为中军，即禁兵。 比如三国志所载：建安二十三年（218），“七月，（太祖）治兵，遂西征刘备，九月，至长安。”次年，“三月，自长安出斜谷，军遮要以临汉中，遂至阳平。”但是作战不利。 “五月，引军还长安。”由于襄樊战事激烈，“十月，军还洛阳。”随即南征击退关羽，次年正月回到洛阳病逝。 由此可见，曹操在军事上基本以州郡兵守地方，自己则带领禁兵主力外出作战，归来在邺城后方基地修整，这种战养形态在曹操去世后逐渐发展为魏晋的主流。
