元朝的军队主要有宿卫诸军、镇戍诸军和屯田诸军这三大部分。
1.宿卫军也叫侍卫军，成吉思汗时把自己的亲从编为怯薛军，怯薛是番直宿卫的意思。全军分为四怯薛，以四位元勋为怯薛长，世领其职，四位怯薛长按规定时间轮番带兵更直宿卫。这些宿卫军在蒙古建国前后是一支英勇善战的军队。忽必烈建立元朝后，虽保留四怯薛军，但因它们长期养尊处优，战斗力已严重下降。因此，忽必烈抽调各地精锐，建立前、后、左、右、中五卫亲军，作为中央禁军，直接隶属于枢密院，设亲军都指挥使统领，编组为皇帝的护卫军和京城防守军。又签发各族丁壮组成21卫亲军，驻守京城附近的“腹里”地区，这21军还分出一些专职军队，诸如专供大朝会用的围宿军，大祭祀用的仪仗军，巡幸护驾的扈从军，守卫皇帝财富的看守军，夜间巡逻的巡逻军，保护漕运的镇遏军、修治城隍的工役军，以及负责征讨的由西夏降军组成的河西唐兀军和钦察部组成的钦察军，此外，还有一些负责催差、押运、屯田的军。21卫亲军各设都指挥使司或大都督府主管日常事务。21卫亲军统归枢密院直接管辖。
2.镇戍诸军是驻守全国各地的军队，主要由蒙古军、探马赤军、汉军、新附军等组成。蒙古军是本族兵组成的军队；探马赤初期由蒙古人和归附诸族组成，专门担任先锋，元朝建立后则专以女真、契丹和其他诸族兵组成；汉军是由北方汉族军阀和乣（即杂部族）军组成的；新附军是南宋投降的军队改编的。元朝“以蒙古军驻河、洛、山东，据天下腹心，汉军、探马赤据汉江之南，以尽南海，而新附军亦间厕焉”，充分体现了统治者对各军的亲疏倚重关系。此外，还有女真军、契丹军、高丽军、辽东的乣军、福建的舍军、云南的寸白军等都不出戍调征，称为乡军。镇戍军的管理分别由中央的枢密院或设于行省的行枢密院负责，边远地区由宣慰使司都元帅府负责管理。
3.屯田诸军是由宿卫诸军和镇戍诸军调拨出来的军队。屯田有军屯、民屯和军民合屯等形式，军屯最主要，民屯虽归司农寺统领，但亦具有浓厚的军事性质。军屯由枢密院统管，各屯田区设有屯田司，由诸都指挥使统领。屯田军主要是供给军粮，有时也出战戍守。
上述诸军的编制是以十人为牌，没有牌头，牌以上有百户所，亦称百户翼，设有百户；百户以上有千户所，设有千户，千户以上有万户府，设有万户；万户府为基本的最高编制，再往上就是都指挥使司。万户和千户均设有达鲁花赤为监临官，千户还设有弹压官。
除以上的正规军外，还有专管驿站的站赤兵，全国设有驿站1500处左右，拥有马近5万匹、车4000多辆、轿400余乘、牛近万头、船6000余只、驴羊狗万余头，可见站赤兵数目之多。有专管递送紧急文书的急递铺兵，每铺有铺卒5人，以10里、15里或25里设一铺，可见，急递铺兵的规模是很大的。有职管巡逻缉盗的弓手，京城的弓手由兵马司统领，南北城共有弓手2195名，各府、州、县、巡检司、捕盗所也都设有一定数额的弓手，这样弓手的数额也很可观。
军队调动权掌握在皇帝手中，枢密院仅作为参谋和执行部门。元代规定，“以兵籍系军机重务，汉人不阅其数。虽枢密近臣职专军旅者，惟长官一二人知之。故有国百年，而内外兵数之多寡，人莫有知之者”，这反映了元朝统治者对武装力量的一贯重视。
适应着战争的需要和科学技术的发展，在这个时期出现了许多新的专门兵种，如西夏的铁鹞军、金代的拐子马军、元代的炮军，都曾在战争中起过重要的作用。夏、辽、金、元都是以骑兵为主力，而且马匹都带有铁甲，故号称“铁骑”。其他诸如弩、水、步等兵种也很发达。
依靠军事征服，有许多降军归附，其数量甚至多于本族兵马。如何处置这些军队，令统治者颇费思考。除了采取安抚改编之外，还有意贬低这些降军的地位和作用，在战争当中，又让这些降军充当前驱，用以攻城摧坚，以谋削弱这些部队的有生力量，最后借敌方之手消灭这些降附部队。例如南宋政权在襄阳和崖山溃降的军队被元朝整编为新附军，这是一支拥有十几万兵员的、训练有素的军队。元朝既不敢杀降，又不敢轻率遣散，怕操之过急。引起兵变。这只军队名为收编的降附，实际上却是元朝的心腹之患。于是元朝命令其出征日本和爪哇。宋降将范文虎所率的10万将士在出征日本时，遇风覆没，幸存者只有十之一二。在如此损兵折将的情况下，忽必烈却对范文虎及残部将士大加赏赐，其用心乃在于不杀降人而使降人自灭。军事从属于政治，军制与政制密不可分，在这里得到了有力的证明。
