火箭出现后，在中国被迅速地用于军事行动和民间娱乐中。10～13世纪，在宋、金、元的战争中，已应用了火枪、飞火炮、震天雷炮等火药武器。那时的飞火炮和现代的火焰喷射器相似，是一种原始的火箭武器。北宋后期，在民间盛行的烟火戏中，人们利用火药燃气的反作用力，制成了能够高飞和升空的“流星”(或称“起火”)、“爆竹”为节日增添了喜庆的气氛。从工作原理看，流星、爆竹已具有火箭的特点。

公元12世纪后，原始的火箭经过改进后，广泛地用于军事。到了元、明时代，火箭兵器在战争中有了很大发展，并发明了许多与现代火箭类型相近的火箭，相继出现了二虎追羊箭、九龙箭、一窝蜂等火箭，这些都利用了火箭多级串联或并联（捆绑）的技术。明代史籍中记载了多种火箭武器，重要的有震天雷炮、火龙出水、神火飞鸦、飞空砂筒、万人敌等。

明代是我国火箭技术迅速发展的时期，军事技术家制成多种利用火药反作用力推进的火箭，用于军事战争。明初，朱元璋第四子燕王朱棣在夺取政权的“靖难之役”中，于河北的白沟河同建文帝的部队作战时，遭到“一窝蜂”火箭的射击，这是中国最早将“喷气火箭”用于战争的记载。此后各种单级喷气火箭日益增多，有单发和多发两大类。

民族英雄戚继光在东南沿海抗倭时，创制了飞刀箭、飞枪箭、飞剑箭等三种喷气火箭，统称“三飞箭”。这三种火箭用长6尺的坚硬荆木制作，箭镞长5寸，分别制成刀、枪、剑形锋刃，能穿透铠甲。箭镞后部绑附长7至8寸、粗二寸的火药筒。作战时，将火箭安于木架上，手托箭尾，点着火药筒的药线，对准敌人射去，它在水陆作战都可使用。这三种火箭在戚家军水兵营的10艘战船上装备了2000多支，在车炮营、骑兵营和步兵营中，共装备了4760支，平均每人4支。戚家军装备如此众多的火箭，在中国和世界军事史上都是空前的。世界上其他国家，直到240多年后，才知道世界上有喷气火箭这种火器。