战国时期的骑兵仍然还没有马镫，难以进行马上格斗，在野战中一般不在正面进行突击，主要用于包抄、迂回、追击。如李牧以骑兵两翼包抄战术击败匈奴大军。秦赵长平之战，白起以15000骑兵截断赵军与营垒之间的联系。骑兵的编制还不大，并不独立遂行战役任务。

秦汉时期骑兵已有很多的独立建制部队。比如楚汉相争时，两军有很多称为“骑将”的军官。公元前202年楚汉垓下决战，项羽最后失败，带领800名骑兵突围。刘邦命令骑将灌婴率5000骑兵猛追，一直追过淮河。

西汉为与匈奴作战，逐步组建起大规模的骑兵部队。征兵时专门有“骑士”的兵役，朝廷任命专门的“车骑将军”，以后又设立“骠骑将军”、“骁骑将军”等名号。朝廷直属的北军中也有“屯骑校尉”和“越骑校尉”、“胡骑校尉”。汉武帝时期发动多次进攻匈奴的战争，出动的骑兵动辄数以十万计，可见当时军队中骑兵的比重加大，在边境地区已经超过了步兵。东汉保留了西汉时的制度，但军队中骑兵的比重明显下降。几次边境战争中，由内附的南匈奴或羌族部落骑兵起到重要作用，汉族骑兵出动数量不多。如73年窦固等出击西域，89年窦宪等出击北匈奴，汉族骑兵都不到“万骑”规模。在中原地区的战争中往往“步骑”并提，在作战时仍然采用混编，骑兵起辅助作用。

东汉末年的战乱中，曹操集团的军事实力很大程度上在于其有一支较精锐的骑兵。比如在200年官渡之战中，曹操亲自率5000骑兵突袭袁绍军后勤基地乌巢，获得决定性胜利。又如211年曹军进攻关中，以步兵诱敌，而以“虎骑”为主力夹击，大败马超、韩遂。这种“虎骑”很可能就是人马都披甲的重装骑兵，说明汉族军队骑兵开始有重装与轻装区别，而且这种重装骑兵已具有野战强攻突击能力。

十六国混战时期（304—439）是重装骑兵全面登上军事舞台的时期。北方游牧民族大批内迁，畜牧业的发展有可能使骑兵用马大量增加；马镫等更为完善的乘马具的发明，大大增加了骑兵在马上的格斗能力；手工业的发展也能够为骑兵提供更完善的防护甲。因此重装骑兵已具有强大的突击能力，成为战场上令人生畏的决定性力量。军队中骑兵的比重也大大增加。如312年汉族军阀王浚组织5万军队进攻盘踞襄国的军阀石勒，石勒先败后胜，在最后的追击战中缴获“铠马”5000匹。可见在王浚军队中重装骑兵至少要占到十分之一以上。328年石勒进攻洛阳，出动的军队中“步卒六万，骑二万七千”，骑兵达到全军近三分之一。383年前秦苻坚以百万大军进攻东晋，据说步兵有60万，骑兵有27万。可见步骑之比为2:1似乎是当时的惯例。而后来北魏军队动辄出动数以十万计的骑兵大兵团作战，甚至在450年大举进攻南朝刘宋时，出动的骑兵居然达到了60万，营寨绵延3000里。