1943年3月，八路军第115师（师长兼政委：罗荣桓）与八路军第一纵队（司令员：徐向前，政委：朱瑞）合并成立了八路军山东军区。
山东军区司令员兼政委：罗荣桓，副政委：黎玉，下辖五个军区：鲁中军区、鲁南军区、滨海军区、胶东军区、渤海军区
1945年抗战胜利之后，山东军区对所属部队进行整编，将原来的5个军区，22个军分区，3个教导团，18个独立团，24个基干团，4个独立旅，2个支队，1个海军支队，113个县大队，800多个区中队，编成了8个野战师，12个警备旅，1个海军支队，总兵力达到将近30万。
滨海军区
司令员：陈士榘（上将），政委：唐亮（上将）下辖：山东军区第一师，山东军区第二师，警备第十旅，警备第十一旅
鲁中军区
司令员：王建安（上将）、政委：罗舜初（中将）、下辖：山东军区第三师，山东军区第四师，山东警备第一旅、警备第二旅、警备第三旅、警备第四旅
胶东军区
司令员：许世友（上将），政委：林浩（少将），下辖：山东军区第五师、山东军区第六师、警备第四旅、警备第五旅、胶东军区海军支队
渤海军区
司令员：杨国夫（中将），政委：景晓村（未授衔），下辖：山东军区第七师，山东警备第六旅、警备第七旅、
鲁南军区
司令员：张光中（未授衔），政委：王麓水（1945年滕县作战中牺牲），下辖：山东军区第八师，山东警备第八旅、警备第九旅
山东军区八个野战师
山东军区第一师：师长：梁兴初（中将），政委：梁必业（中将），参谋长：李梓斌（少将），政治部主任：刘西元（中将）
山东军区第二师：师长：罗华生（少将），政治委员：刘兴元（未授衔），参谋长：贺东生（少将），政治部主任：王树君（未授衔）
山东军区第三师：师长：王建安（上将兼任），政委：周赤萍（中将），副师长：胡奇才（中将），参谋长：李福泽（少将），政治部主任：王文轩（少将）
山东军区第四师：师长：廖容标（中将），政委：王一平（未授衔），参谋长：周长胜（少将），政治部主任：欧阳平（少将）
山东军区第五师：师长：吴克华（中将），政委：彭嘉庆（中将），参谋长：肖镜海，政治部主任：刘浩天（中将）
山东军区第六师：师长：聂凤智（中将），政委：李丙令（少将），参谋长：蔡正国（1953年4月抗美援朝鲜中牺牲），政治部主任：李冠元（大校）
山东军区第七师： 师长：杨国夫（中将），政治委员：周贯五（中将），参谋长：阎捷三（少将），政治部主任：徐斌洲（中将）
山东军区第八师： 师长：王麓水（1945年滕县作战中牺牲），政委：王麓水（兼任），参谋长：何以祥（少将），政治部主任：丁秋生（中将）
山东军区12个警备旅
警备旅第一旅：旅长：陈奇（少将），，政委：林乎加（未授衔）
警备旅第二旅：旅长：吴瑞林（中将），政委：孔繁彬（大校）
警备旅第三旅：旅长：钱钧（中将），政委：熊飞（少将）
警备旅第四旅（鲁中军区）：旅长：孙继先（中将），政委：李耀文（少将）
警备旅第四旅（胶东军区）：旅长：刘涌（少将），政委：仲曦东（未授衔）
警备旅第五旅：旅长：刘贤权（少将），政委：陈德（少将）
警备旅第六旅：旅长：赵寄舟（未授衔），政委：李曼村（少将）
警备旅第七旅：旅长：贺健（少将），政委：杨士法（未授衔）
警备旅第八旅：旅长：胡大荣（少将），政委：李青（未授衔）
警备旅第九旅：旅长：赵杰（少将），政委：田海山（未授衔）
警备旅第十旅：旅长：张仁初（中将），政委：刘伟（未授衔）
警备旅第十一旅：旅长：莫正民（未授衔），政委：覃士冕（少将）
解放战争时期山东军区司令罗荣桓率领山东军区主力6个师（共计6万余人）分海陆两路开进东北与新四军第3师（3.5万人）合编为东北野战军，参与辽沈战役、平津战役等，从东北一直打到海南岛，所向披靡，战无不胜。
山东军区进入东北的主力部队包括：山东军区第1师，山东军区第2师.山东军区第3师，山东军区第5师，山东军区第6师，山东军区第7师，警备第2旅，警备第3旅，警备第4旅，警备第6旅，
山东军区第1师与山东军区第2师，警备第6旅编成东北野战军第一纵队（第38军），纵队司令员：李天佑（上将）
山东军区第3师与警备第3旅编成东北野战军第三纵队（第40军），纵队司令员：程世才（中将），政委：罗舜初（中将）
山东军区第5师与山东军区第6师编成东北野战军第四纵队（第41军），纵队司令员：吴克华（中将），政委：彭嘉庆（中将）
山东军区第7师与新四军第3师第7旅，编成东北野战军第六纵队（第43军），纵队司令员：洪学智（上将），政委：赖传珠（上将）
警备第二旅后扩编为辽南军区独立师，编入东北野战军第五纵队（42军），纵队司令员：万毅（中将），纵队副司令员：吴瑞林（中将）
注：东北野战军第二纵队是由新四军第3师编成，新四军第3师下辖第7旅、第8旅、第10旅和独立旅，第8旅、第10旅和独立旅改编为第4师、第5师、第6师。第7旅改编为第16师编入第6纵队。
