Aunque las fuerzas militares organizadas habían existido junto con el estado, se conservan pocos registros de estos primeros ejércitos.

El "Shi", o ejército, era ya una unidad diferenciada, y también se utilizaba como título prefijado para designar a los generales.

[4]​ Durante la dinastía Qin y su sucesora, la Han, los ejércitos chinos se enfrentaron a una nueva amenaza militar, la de confederaciones nómadas como los Xiongnu en el norte.

Estos nómadas eran rápidos arqueros a caballo que tenían una importante ventaja de movilidad sobre las naciones asentadas del sur.

Sin embargo, gran parte del sur de China fue gobernada por dos reinos rivales, Shu Han y Wu Oriental.

La dinastía Jin, que había unificado China 24 años antes, se tambaleaba en el colapso debido a una gran guerra civil.

Aprovechando esta oportunidad, el jefe xiong-nu Liu Yuan y sus fuerzas se rebelaron contra sus señores chinos han.

Le siguieron muchos otros líderes bárbaros, y a estos rebeldes se les llamó "Wu Hu" o, literalmente, "Cinco tribus bárbaras".

Este sistema militar era bastante improvisado e ineficaz, y los estados establecidos por los Wu Hu fueron en su mayoría destruidos por la dinastía Jin o los Xianbei.

Bajo el sistema fubing, cada cuartel general (府) comandaba unos mil soldados campesinos que podían ser movilizados para la guerra.

[59]​ Los mongoles bajo Gengis Kan y Hulagu también llevaron a Persia especialistas chinos en artillería dentro de sus ejércitos, especializados en mangonel.

[61]​ En 1258, el comandante de las fuerzas del mongol Hulagu Khan que asediaban Bagdad era un general chino Guo Kan.

[75]​[76]​[77]​[78]​ Los mongoles tuvieron deserciones de chinos Han y gitanos, mientras que los Jin fueron abandonados por sus propios oficiales jurchen.

[101]​ Los Ming se centraron en crear un poderoso ejército permanente que pudiera rechazar los ataques de los bárbaros extranjeros.

Los ejércitos Ming incorporaron las armas de pólvora a su fuerza militar, acelerando un desarrollo que había sido prevalente desde los Song.

[129]​ Como no era posible que sólo los manchúes conquistaran el sur de China,[130]​ Ming Han Chinese armies conquered the territory for them.

En 1681, el gobierno Qing había establecido el control sobre una China meridional devastada de la que tardó varias décadas en recuperars.

"[139]​ Durante la Rebelión Taiping (1850-1864), las fuerzas rebeldes dirigidas por hábiles generales como Shi Dakai estaban bien organizadas y eran innovadoras desde el punto de vista táctico.

[144]​ En 1887 se inició otro programa en la academia durante cinco años para formar a adolescentes como nuevos oficiales del ejército.

[145]​ En la escuela se impartían matemáticas, asignaturas prácticas y técnicas, ciencias, lenguas extranjeras, clásicos chinos e historia.

[150]​ By 1882, the Qing navy had some fifty steam warships, half of them built in China.

The American Commodore Robert Shufeldt, reported that the British-built Chinese ships he inspected had "every modern appliance," including "guns with large calibre and high velocity, moved by hydraulic power, machine guns, electric lights, torpedoes and torpedo boats, engines with twin screws, steel rams, etc. etc." Yet, Shufeldt concludes, in order to be really effective, it needs an intelligent personnel and a thorough organization."

The Tientsin Arsenal developed the capacity to manufacture "electric torpedoes,"[151]​ that is, what would now be called "mines," US consul general, David Bailey reported that they were deployed in waterways along with other modern military weapons.

En la primera Guerra del Opio, los chinos copiaron las armas británicas y mejoraron su material militar mientras se desarrollaba la lucha.

Los cañones chinos gingal que disparaban proyectiles masivos se utilizaron con precisión, e infligieron graves heridas y muertes a las tropas aliadas durante la rebelión de los bóxers.

Ya en el siglo IV a. C., los textos chinos describen ejércitos que empleaban hasta 10.000 ballesteros en combate, donde su impacto era decisivo.

En el combate, las ballestas solían estar equipadas con miras de rejilla para ayudar a apuntar, y se utilizaban varios tamaños diferentes.

Se ha registrado que la ballesta podía "penetrar un gran olmo a una distancia de ciento cuarenta pasos".

Sin embargo, esta tesis fue discutida en la Gran Controversia del Estribo por historiadores como Bernard Bachrach,[196]​ aunque se ha señalado que los jinetes carolingios pueden haber sido la caballería más experta de todas en su uso.

[197]​ Durante la dinastía Han, los fabricantes estatales producían bombas fétidas y bombas de gas lacrimógeno que se utilizaron eficazmente para reprimir una revuelta en el año 178 d. C. También se emplearon materiales venenosos en cohetes y munición de ballesta para aumentar su eficacia.