明末，北方少数民族满族凭借满蒙八旗和汉绿营，统治了中国二百余年，但进入十九世纪末期，民族矛盾和阶级矛盾极端尖锐，随着八旗和绿营日益腐败，洋枪大炮和西法操练的输入，淸朝统治者深刻感到要应付这个新的局势，编练新兵已经迫在眉睫。
淸朝新军的正式开始，是在甲午中日战争后。
最初的新建军，1895年3月起胡燏棻开始在天津小站练兵，后由袁世凯接办。野心勃勃的袁世凯，将北洋新军由“定武军”称名“新建陆军”，由原来的十营四千七百人，扩充为七千人。成立总部，下设参谋营务处、执法营务处、督练营务处。其营制分左右两翼，置左右翼长，左翼有步兵二营，炮兵一营；右翼有步兵三营，骑兵一营，另设工程营。其中宫佐多系北洋武备学堂出身的学员，如王士珍、冯国璋、段祺瑞等。此外还设有粮饷局、军械局、转运局、洋务局，专司各项工作。
在北洋训练新建陆军的同时，1896年初，湖广总督张之洞将护军前营调至湖北，敎练洋操，以天津、广东武备学堂学员充任敎习，专肄西法。这是湖北训练新军的开始。
练兵之的所以被称为新，以其不同于旧式军队而接近于现代化军队的建制。
首先是新军均习洋枪洋操，与依靠膂力、使用刀矛弓箭的旧式军队回然不同。新军拥有步、骑、炮、工程、辎重等各兵种。新军的编练，开始多以德国人为敎习，因以德国陆军为最精锐，其编制则仿日本。
其次是新军选拔的标准较严，年令、体格、及识字程度均有规定，年龄一般规定从十六岁至二十二岁不等，最高有至二十六岁的。身体规定官裁尺四尺八寸以上，南方人躯体较小，酌减二寸。凡体质较弱及有目疾暗疾者不收，凡有不良嗜好或犯有事案者亦不收。
再其次，规定各级军官应以军事学堂出身的人充任，都具备现代军事知识。军中如遇有官弁出缺，先尽学堂毕业的人员充任。不仅要求军官应具有现代军事知识，也要求士兵学习军事知识和军事有关的知识。
1905年，淸政府为了统一和扩充全国新军的编制，计划全国共编新军三十六镇，具体分配：近畿四镇；四川三镇；直隶、湖北、江苏、广东、甘肃、云南各两镇；山东、山西、陕西、新疆、广西、贵州、江北、安徽、江西、河南、湖南、热河、奉天、吉林、黑龙江、浙江、福建各一镇。上述三十六镇中，最后只有北洋六镇、湖北两镇率先完成编练。
新军编制分军、镇、协、标、营、队、排、棚，相当于后来的军、师、旅、团、营、连、排、班。各级将领，军称总统，镇称统制，协称协统，标称标统，营称管带，队称队官，排称排长，棚有正副目。一军两镇，一镇两协，一协两标，一标三营，一四队，一队三排，一排三棚。
另外一种混成协，它与镇管辖下的步兵协不同，除步兵二标外，还拥有马、炮、工程、辎重等兵种，所以叫做混成协，是镇的缩编。这种混成协不隶属于镇，近于后来的所谓独立师、独立旅，武昌起义时的黎元洪就是这种混成协的协统。
淸政府训练新军的目的，是想以新军来保护和稳定其正在动格中的统治；其办法是采取对旧军逐步淘汰，对新军逐步扩充，最后以新军代替旧军。可是旧军的腐败已不能保护其封建统治，而建立中的新军却不愿为封建统治者效忠，且向着相反的方面演变，所以新军的产生和扩充，不意味着淸朝统治的重新巩固，而是其内在矛盾的继续扩大。
新军的初起，袁世凯在北方编练“新建陆军”，张之洞在署两江总督任内练“自强军”，续在湖北练新军，南北编练新军可以说是同时开始，何以后来北方的新军成为北洋军阀的系统，而南洋和湖北的情况却不一样？
首先是因为淸政府把北洋军充作国军，是其直接拱卫京师和驻防直隶的武装，尽力扩充，即所谓“京营强则风气易振，畿辅实则觊觎不生。”而居长江中下游的南洋和湖北，虽有其重要性，却和其他各省一样，所练新军是属于地方军，淸政府采取限制政策，如湖北由两镇减为一镇一协，即为一例。
其次是袁世凯的盗取政治资本和树立个人实力，在他爬上直隶总督、北洋大臣和练兵大臣等重要职位后，其地位又在各督抚之上，更想厚集兵力以为己用。所以北洋军的将领多为天津武备学堂出身的一批旧军官，这些人都由袁世凯拔擢而成为他的党羽。
再者张之洞权势衰落。作为南洋重镇的两江总督刘坤一在1902年便死去了，而热衷编练新军的湖广总督张之洞，他的权势已不如后来居上的袁世凯，后来他又离开了湖北到北京做大学士去了，他个人的行径也与袁世凯的完全军阀化有所不同。所以南洋和湖北的新军幷没有形成一个中心。
