古代军队不象现代军队那样有完整的军兵种划分。随着作战武器以及作战方式、作战地域的变化，才逐渐分离出一些专业化的部队，具有一定的兵种性质。一般有车、步、骑、舟四大兵种。两汉以后车兵消亡，主要是步、骑、水军三大兵种。不过中国古代军队主要不是按照兵种来编制和指挥的，而且也从来没有形成陆、海并列的两大军种体制。
车兵
从理论上而言，最早的军队应当都是步兵。不过在中国有文字记载的历史中，早期军队的主力是战车兵。商周时主要由贵族组成的战车兵，是当时最重要的兵种，在漫长的5个多世纪中，战车驰骋在中原大地上，而步兵配属于战车，在战车冲破敌人队形时进行格斗厮杀。由平民或者奴隶充当的“徒役”则在车后护卫战车、提供后勤，实际上只不过战车兵的侍从。军队的编制以战车为核心，一国的军事实力以多少“乘”为标志。当时的一辆战车乘员3人，左侧的“车左”持弓箭射击，是主要的攻击力量，为一车之长，号为甲首；右侧的“车右”持戈矛，以勾刺杀敌，又称“骖乘”；中间的甲士为驭手，驾驶战车。
春秋时期步兵逐渐成为独立的兵种，与车兵并列。秦始皇陵兵马俑坑中仍有战车兵，与步兵混编，依旧是作战兵种。西汉也仍然有“车士”的编制，以及在直属朝廷的北军中有专门的“虎贲校尉”，有“车骑将军”名号。
后世车兵没落，东汉后车兵不再是独立的兵种。直到约1500年以后，随着火器的发展，明代军队又出现“车兵”兵种。嘉靖（1522—1565）后直属朝廷的“三大营”全都有车兵编制。戚继光在组建边防军时，也专门组织了用于战斗的车兵。这时候的车兵使用的是一种两轮车，两侧装有护板，号为正厢车（仅一侧有护板的称“偏箱车”，没有护板的为“轻车”），平时用两头骡子拉动，战时靠车兵人力推进至发射阵地。车上装有火炮（大将军1座或或佛郎机2座）。每辆战车，车兵定额24人，有佛郎机手、鸟铳手、火箭手、藤牌手等。作战时以战车为依托施放火器，扎营时将战车围绕营盘一圈，首尾相连，护卫营盘。因此这种车兵实际上具有一定炮兵的性质。
清朝入关后不再采用这种战车作战方式，车兵被废除。
步兵
公元前541年，晋国统帅荀吴率领晋军与北方少数民族狄人作战，作战地点在太原北面的山区一个叫“大卤”的地方，地势险要，战车难以行使。部将魏舒提出建议：“敌人都是步兵，在这山区里我们的战车无法发挥作用，步兵困在战车旁边也没有用。不如自我以下所有甲士全都下车徒步作战。”荀吴同意这个计划，委派魏舒为前敌指挥。魏舒下令拆毁战车，将所有的甲士和原来跟随战车的“徒兵”混编列阵。自认为出身高贵的战车兵不愿下车和徒兵混在一起，魏舒就把荀吴的一个亲信当场斩首示众，这才逼迫甲士下车排阵。魏舒用一支小部队在前面诱敌，将主力排列在阵势后部的两侧。狄人没见过华夏族军队徒步作战，大声嘲笑，也不列阵就一涌而上，想不到正中了魏舒的诱敌之计，晋军从两侧合击，狄人大败。
按照蓝永蔚的观点，这是首次在战场上临时组编步兵，但步兵作为华夏族军队一个独立的兵种却是由此发端。
春秋时期步兵迅速兴起，一定程度上也反映了平民（国人以及庶人）社会地位的提高。战国时期步兵已经是军队作战的主力。从秦始皇兵马俑坑中出土的步兵俑来看，有的步兵是穿甲的，有的是不穿甲的，前者大多手持各类格斗兵器，后者大多手持弓弩做发射姿势。说明当时步兵也已有重装步兵和轻装步兵之分。不过这两种步兵是混编的，并非是独立的两个兵种。只是在某些战斗需要的情况下会集中起某一类步兵，如孙膑集中万名弩手伏击庞涓。
以后历代步兵一直占了军队的绝大部分编制。建制步兵种类繁多，但一般依然保持着秦代这两大类区分，也仍旧实行混编。如汉代步兵总称“材官”，其中的弩手称“蹶张”，勇健善斗的有“奔命”、“勇敢”等名号。西汉时设置的北军“八校尉”中有“步兵校尉”，但实际上八校尉大多数都是步兵编制，这支部队守卫上林苑，是一支长于格斗的步兵。另有“射声校尉”，是专门的弓弩部队。
唐代的步兵也有以格斗见长的“奇兵”（机动队）和“跳荡兵”（突击队）以及发射武器为主的“弓弩兵”。
值得注意的是古代步兵往往主要是依靠发射类武器进行战斗的，尤其是宋代军队中发射武器的步兵要比格斗步兵多得多，平均每100名马军（并非完全是骑兵）士兵中，枪手和旗手加起来只有13人，余下的全都是弓箭手；每100名步军士兵中，刀手8人，枪手16人，弓箭手有76人。
元代开始军队装备火器，自然也就有专门的操作火器的步兵。如明代步兵编制中都有“铳手”，负责发射火炮、火枪。戚继光组建军队，无论骑兵、步兵，都有专门的鸟铳手、快枪手、火箭手、藤牌手，以及挑选“有杀气者”为近战时的刀棍手，混编为战斗基本单位。
清代绿营兵主体是步兵，但其中也混编有鸟铳手、抬枪手、炮手。
骑兵
马匹是人类很早就驯服的动物，不过早期的骑兵既没有马鞍，也没有马镫，全靠自己的双腿紧紧夹住马腹催马奔驰，在马上很难使用身体力量来进行劈砍、刺杀等格斗动作，主要是依靠射箭来杀伤敌人。只有从小在马背上长大的游牧民族才善于这种高难度的骑射、格斗，而中原地区的华夏族军队要到较晚的时期才开始组建骑兵。
战国时期一般讲到国家军事实力时往往“车骑”并提，足可见当时的骑兵已和车兵并列为重要的技术兵种。《战国策》提到苏秦游说秦王，说秦国有“战车万乘，奋击百万”，“以大王之贤，士民之众，车骑之用，兵法之教，可以并诸侯、吞天下”。范睢也说“秦卒之勇，车骑之多”，所向无敌。与“车骑”对称的“奋击”、“秦卒”应该就是步兵，看来这就是当时军队的三大兵种了。《史记》记载苏秦的话，说是燕国有“带甲数十万，车六百乘，骑六千匹”；赵国“带甲数十万，车千乘，骑万匹”；魏国“武士二十万，奋击二十万”，“车六百乘，骑五千匹”；南方的楚国则步兵比重大，“带甲百万，车千乘，骑万匹”。总的来说各国的骑兵只占全部军力的5%都不到。
当时华夏族的服装都是宽袖长袍，骑在马上要做射箭动作很困难。公元前307年，北方的赵国在长期与游牧民族的冲突中痛感骑兵的重要性，国王赵武灵王毅然推行“胡服骑射”，将骑兵的服装改为与游牧民族相同的窄袖短衣，终于建立起可以与游牧民族作战的骑兵。后来任用李牧为统帅，训练士兵骑射，并精选战车1300乘，骑兵13000人，“百金之士”5万，弓箭手10万，组成主力部队与匈奴作战，接连打败或降伏匈奴的附属国如东胡、林胡等，使得匈奴在以后的十几年里不敢接近赵国的边境。赵国这支特编的部队步骑比例还是要超过10：1。
战国时期的骑兵仍然还没有马镫，难以进行马上格斗，在野战中一般不在正面进行突击，主要用于包抄、迂回、追击。如李牧以骑兵两翼包抄战术击败匈奴大军。秦赵长平之战，白起以15000骑兵截断赵军与营垒之间的联系。骑兵的编制还不大，并不独立遂行战役任务。
秦汉时期骑兵已有很多的独立建制部队。比如楚汉相争时，两军有很多称为“骑将”的军官。公元前202年楚汉垓下决战，项羽最后失败，带领800名骑兵突围。刘邦命令骑将灌婴率5000骑兵猛追，一直追过淮河。
西汉为与匈奴作战，逐步组建起大规模的骑兵部队。征兵时专门有“骑士”的兵役，朝廷任命专门的“车骑将军”，以后又设立“骠骑将军”、“骁骑将军”等名号。朝廷直属的北军中也有“屯骑校尉”和“越骑校尉”、“胡骑校尉”。汉武帝时期发动多次进攻匈奴的战争，出动的骑兵动辄数以十万计，可见当时军队中骑兵的比重加大，在边境地区已经超过了步兵。
东汉保留了西汉时的制度，但军队中骑兵的比重明显下降。几次边境战争中，由内附的南匈奴或羌族部落骑兵起到重要作用，汉族骑兵出动数量不多。如73年窦固等出击西域，89年窦宪等出击北匈奴，汉族骑兵都不到“万骑”规模。在中原地区的战争中往往“步骑”并提，在作战时仍然采用混编，骑兵起辅助作用。
东汉末年的战乱中，曹操集团的军事实力很大程度上在于其有一支较精锐的骑兵。比如在200年官渡之战中，曹操亲自率5000骑兵突袭袁绍军后勤基地乌巢，获得决定性胜利。又如211年曹军进攻关中，以步兵诱敌，而以“虎骑”为主力夹击，大败马超、韩遂。这种“虎骑”很可能就是人马都披甲的重装骑兵，说明汉族军队骑兵开始有重装与轻装区别，而且这种重装骑兵已具有野战强攻突击能力。
十六国混战时期（304—439）是重装骑兵全面登上军事舞台的时期。北方游牧民族大批内迁，畜牧业的发展有可能使骑兵用马大量增加；马镫等更为完善的乘马具的发明，大大增加了骑兵在马上的格斗能力；手工业的发展也能够为骑兵提供更完善的防护甲。因此重装骑兵已具有强大的突击能力，成为战场上令人生畏的决定性力量。军队中骑兵的比重也大大增加。如312年汉族军阀王浚组织5万军队进攻盘踞襄国的军阀石勒，石勒先败后胜，在最后的追击战中缴获“铠马”5000匹。可见在王浚军队中重装骑兵至少要占到十分之一以上。328年石勒进攻洛阳，出动的军队中“步卒六万，骑二万七千”，骑兵达到全军近三分之一。383年前秦苻坚以百万大军进攻东晋，据说步兵有60万，骑兵有27万。可见步骑之比为2：1似乎是当时的惯例。而后来北魏军队动辄出动数以十万计的骑兵大兵团作战，甚至在450年大举进攻南朝刘宋时，出动的骑兵居然达到了60万，营寨绵延3000里。
北朝极端重视骑兵的传统也影响到隋唐。唐太宗是一位轻骑兵（指人披甲、马不披甲的骑兵，人披的甲是两当铠为主，主要遮蔽胸部，或者也叫胸甲骑兵）奔袭战术的积极实践者。他在建立唐朝过程中东征西讨，很多战役都是他亲自率轻骑兵奔袭、突击而获胜。唐代也是古代汉族皇朝军队骑兵的鼎盛时期。按照《通典》所载唐初大将李靖的说法，唐代军队的标准编成是骑兵要占到战斗部队的30%。而盛唐时期全部57万常备军中有16万是骑兵，差不多也占到30%。
唐代中叶起中原汉族皇朝逐渐丧失对于主要马匹产区的控制，军队编成中的骑兵比重也随之逐渐降低。到北宋建立，军队编成中尽管有相当比重的“马军”，但却大部分是没有马匹的步兵。北宋皇朝千方百计促进马匹的养育，而在农业地区难以放牧大批马群，马匹生产长期萎缩，“马军”也就只能名不副实。这种局面到南宋时更为严重，骑兵补充马匹只能依靠广西等地出产的矮种马，骑兵的比重不到5%。而与北宋对峙的辽、西夏、金、元等游牧少数民族皇朝却以骑兵为主力军，屡屡打败宋军。南宋能够与之一战的部队往往装备有较多骑兵。比如著名的岳家军，以俘获的马匹编练8000骑兵，号“背嵬军”，又编练“游奕马军”，1140年颖昌大战，这两支骑兵与金骑兵进行大规模骑兵会战，获得胜利。
明代初期为与蒙古作战，极力加强骑兵实力。尤其是在明永乐年间（1403—1425），永乐帝亲自多次远征漠北，每次都出动大量骑兵。1409年邱福率10万骑兵奔袭鞑靼本雅失里，结果是全军覆没，邱福阵亡。明朝廷立即动员建立30万骑兵，也只用了半年多时间。可见当时有强大的骑兵后备力量。但1449年“土木之变”后，朝廷直接掌握的京军几乎被全部消灭，尤其是骑兵损失后再也没有能够恢复到原来的水平。而战马的供应更加困难，从此明军逐步倒退到两宋时期的那种状况，骑兵在军队编成中所占比例不到十分之一。
清代八旗兵的主体是骑兵，而绿营兵则基本是步兵为主。入关前八旗兵的骑、步比为1：1，入关后仍然基本保持这一比例。而从制度上来看，朝廷规定绿营兵部队一般原则是“马三步七”，但实际上各地均不相同。比如江西、安徽驻军都是“马一步九”；陕西、甘肃驻军则为“马六步四”。由于清代“马兵”是指级别最高、薪俸最多的士兵，因此“马兵”并不一定是备有马匹的骑兵，连水师的士兵也有相当比例的“马兵”。
水军
据《左传》记载，公元前549年夏天，楚国出动了一支“舟师”讨伐长江下游的吴国，没有获得什么战果，当年退回本国。这次讨伐战役特意被称之为“舟师之役”，可见在这之前即使是在长江流域的诸侯国军队中还没有普遍组建这种“舟师”。这是史籍上首次有关独立建制的水上军队的记载。而过了一年，吴国的反击，也没有组建这种舟师，仍然是从陆路围攻楚国的巢，结果吴国国王诸樊卤莽冒进，在巢的城门口中箭身亡。
楚国看来是最早组建“舟师”的国家，而且经常以舟师发动战争的也是楚国。如公元前523年，楚国组建“舟师”进攻濮；公元前517年，又与越国约定夹击吴国，也是出动舟师侵略吴国的边境地区。公元前515年吴国进攻楚的潜，楚军以舟师包抄吴军后路，使得吴军难以退兵。吴军发生内乱，阖闾派刺客刺杀吴王僚，自己称王。楚军听说吴军内乱就解围而走，吴军得以撤退。公元前508年，楚国再次进攻吴国，双方在豫章一带对峙。这次是吴国组建了一支舟师，但却只用做疑兵之计，主力暗中突击巢，拔掉了这个眼中钉。两年后吴军联合唐国、蔡国一起进攻楚国，吴军到淮汭抛弃船只，从陆路翻越大别山击败楚军，乘胜攻入楚国的都城郢。后来楚国靠秦国援军才打退了吴军。
吴国的组建舟师似乎比楚国要晚，但战斗力很强。公元前504年，吴国再次进攻楚国，吴军舟师一举打败了楚军的舟师。楚国为此担忧要亡国，一度迁都。公元前485年，吴国派出以徐承率领的一支舟师，从海路远袭齐国。这支军队顺利登陆，但在登陆后的战斗中失利。徐承又将这支军队带到海上，仍旧从海路回到吴国。一般认为，为这次远程渡海作战而编成的“舟师”，标志着中国海军编制的正式形成。
战国时期各大国先后根据需要组建舟师。如秦国为攻略巴蜀，也组建了大规模的舟师。公元前280年攻略楚国的黔中时，出动的舟师有船只上万艘。舟师的士兵也经过专门的训练，称“习流”或“楼船士”。秦统一六国后，继续组编出动大规模的舟师向南方扩张势力。如公元前214年，屠睢率以舟师为主的50万大军进攻南方的“百越”。
汉代军队确立步、车、骑、舟四大兵种的常备军。大型舰只为“楼船”，舰上有楼，可以供士兵居高临下发射箭矢。配备楼船的“楼船军”往往用于渡海作战。较为轻巧的“弋船”，适合在急流险滩航行，一般配备在南方水网地带部署的舟师，进行内河作战。
东汉后期舟师一般改称“水军”。如208年曹操准备一举攻略江南，在邺都开挖玄武池训练水军。刘备退到江夏，仅存关羽指挥的“水军万人”。赤壁之战，曹操精心操练的水军几乎全部被歼灭。但第二年即重新“作轻舟，治水军”。到曹魏代汉时，已建有一支完整的水军，有能力以水军发动东征，进攻东吴。三国中东吴的水军最为强大，建有濡须口（今安徽巢县南）、西陵（今湖北宜昌）两大水军基地，防备来自西、北两方面的威胁。同时还建造大型海船，渡海远征。如230年卫温率载有万人以上的舰队登陆台湾。东吴水军还曾远征辽东、海南岛等地。后来西晋准备灭吴时，大将王浚编练水军，建造大型楼船，得以突破吴军封锁线。
东晋南朝在江南建国，水军是重要的武装力量。这一时期水军普遍装备“拍舰”，使用大型抛石机进行水面战斗。与之对峙的十六国及以后的北朝都是长于骑兵而水军较弱，但是北方统一后，隋朝大大加强了水军建设。杨素提出进攻江南的方略，并在永安（今四川奉节东）主持建造一批大型战舰：“五牙”，有楼5层，并仿照南朝拍舰，在舰只的前后左右设置6架抛石机，全舰可容纳800名士兵；“黄龙”，可容纳100名士兵；以下还有“平乘”、“舴艋”等。588年隋朝发动全面攻势：杨素率水军主力从永安出发顺流而下，燕荣率领另一支水军自东莱沿海南下包抄，步骑兵主力则逼近长江北岸，准备在南陈水军被消灭后分两路渡江。杨素所率的水军主力出三峡，以数千艘“黄龙”乘夜攻破南陈水军以百余艘“青龙”舰组成的狼尾滩封锁线。“水军东下，舟舻被江，旌甲曜日”，杨素坐平乘大船，容貌雄伟，被南陈人称为“江神”。在荆州的水战中，隋军的4艘五牙战舰击毁十多艘陈军战舰，南陈水军主力被歼灭。隋水军主力顺利到达汉口，与步骑军主力会师，保证了步骑军一举渡江成功。隋朝另一路包抄的水军也顺利攻下江南的重镇江阴、吴郡以及会稽等地。隋朝只用一年时间就获得南北统一战争的全面胜利，说明其水军具有对于南朝水军的压倒性优势。
唐朝初年在统一全国战争中组建水军，以后又为征讨高丽组建起庞大的海军。如660年苏定方率领这支海军降伏百济（朝鲜半岛西南部）。第二年当地叛唐，刘仁轨坚守府城，唐朝又派出孙仁师“率兵浮海以为之援”。刘仁轨率领援军在白江口与前来干涉的日本海军连续作战，四战皆捷，焚毁400余艘敌船，“烟焰涨天，海水皆赤”。得以平定百济。但是以后唐朝的军事重心移往北方边境，水军建设逐渐萎缩，并没有建立常备的水军编制。
北宋时期在朝廷直属的军队中设有“虎翼水军”，各地部署的水军很少。南宋则倚靠水军守边，在江淮之间组建大批水军部队，有“凌波军”、“楼船军”等名号。“其战舰则有海鳅、水哨马、双车、得胜、十棹、大飞、旗捷、防沙、平底、水飞马之名”。以后又在沿海地区部署水军，仅驻防各战略要地的水军编制约有33000人，另外还有直属于御前的虎翼水军等为机动部队。
元朝军队以骑兵为主力，但在攻略南方的过程中充分注意到水军的重要性。1260年忽必烈即位当年就组建了第一支水军，任命张荣实为第一位“水军万户”。1268年阿术率领元军围攻襄樊，南宋降将刘整建议：“我精兵突骑，所当者破，惟水战不如宋耳。夺彼所长，造战舰，习水军，则事济矣。”元军迅速造船5000艘，同时训练水军7万。1269年宋援军赶到，元军将新练水军投入战斗，击败宋军，“大破之，杀溺生擒五千余人，获战船百余艘”。从此水上战斗形势逆转，宋军多次从水上来援都被打败。元军将领阿里海牙以水军焚毁宋军连接襄阳和樊城的浮桥，断绝两城联系，各个击破。1273年先下樊城，后下襄阳。这次战役的胜利说明元军的水军实力已超过宋军。以后在元军南下过程中，接连打败宋水军。1275年宋将张世杰率水军在镇江焦山一带长江与元军决战，结果大败。元军同时还组建海军，在渡江进攻的同时，董文炳率领的水军也已从海道逼近南宋都城临安。以后元朝又招降南宋泉州一带的海军将领蒲寿庚，从而在海军方面也超过南宋残军。1279年张弘范指挥元军舰队在崖山海面与宋军决战。宋军将上千艘舰只抛锚固定在海面上，在船只上建立楼橹，如一座水上城市。张弘范指挥元军两路包抄，迫近宋军舰只进行接舷近战，“弓弩火石交作，顷刻并破七舟”，宋军溃败。南宋朝廷至此彻底灭亡。元朝统一全国后，继续以水军为主力向外扩张，但1281年进攻日本和1282年进攻占城，水军损失极其惨重。以后停止使用水军为主力对外进行大规模扩张。各地编练的水军改为驻防为主。
明太祖朱元璋有鉴于元朝对海外用兵导致的严重后果，在他给子孙后代留下的政治遗嘱中特意划出了日本、占城等15个“不征之国”，规定不得对这些海外国家用兵。另外对付退到海岛顽抗的原来割据江浙一带的张士诚、方国珍余部，也采用加强海岸警备力量的对策。明初在沿海设置了75个“海防卫”（军队编制单位），在各卫配备50艘舰只，平均分配，受陆地指挥官的节制。这样一来明朝廷在战略上就将海上水军限制在单纯防守的限度之内。仅在南京的上下游，设置了独立编制的两支内河水军。以后明代统治者基本上都遵循这一方针。虽然15世纪初有郑和七下西洋这样的航海壮举，证明了中国水军具有威慑广大海域的实力，但由于这一壮举没有转化为经济收益，结果巨大的耗费反而使统治者进一步压缩水军编制。到了16世纪，曾经强大无比的中国水军居然无法对付以小股偷袭的日本海盗的侵扰。
清朝入关前已在辽东部署水师，统一全国后根据战事需要曾组建相当规模的水师，如讨伐吴三桂时，组建水师有鸟船100艘，沙船438艘，总兵力3万人。进攻台湾时调集各地水师船只500艘，施琅攻克澎湖，用战船300艘，水师2万人。以后陆续设置了奉天、旅顺、天津、浙江、福建、广东等水师，但基本上仍然沿袭明代的战略，水军编制很小，以“营”为单位配置各地。而所起作用仅是“捕盗”。但即使如此沿海商民仍困于海盗之苦。太平天国战争后，经曾国藩建议才改组水师为外海、内洋、里河三大类，并将后两类水师逐渐组建为新式海军，分为南洋、福建、北洋三大水师。