新四军浙东抗日武装，是1941年5月以后，由中共江南区委、路南特委领导的浦东渡海南下武装为主，结合中共浙东地方组织领导的部分武装组建起来的，新四军军部和第六、第一师先后输送了大批干部，经艰苦奋斗，逐渐发展壮大，成为浙东敌后抗日的主要力量。并开辟了包括淞沪、三北（余姚、慈溪、镇海3县姚江以北地区）、四明、金萧4个地区的浙东抗日民主根据地。
1941年2月1日，中共中央军委根据皖南事变后的形势，对新四军做出新的战略部署，其中指出：“关于浙东方面，即沪杭甬三角地区，我们力量素来薄弱，总指挥部（指华中新四军八路军总指挥部）应增辟这一战略基地，经过上海党在该区域创立游击根据地（以松江等处原有少数武装作基础）。”
中共中央中原局（1941年4月改称华中局）和新四军军部为贯彻中共中央军委上述指示，决定将开辟浙东、浙西的任务暂交中共江南区委书记谭震林负责，同时决定原中共皖南特委书记谭启龙在上海组织闽、浙、赣、皖4省联络站，负责打通与这4个省委的联系。
1941年，浦东部队先后有800多人分批南渡杭州湾到达王北。这些部队是开辟浙东抗日根据地的骨干力量，也是后来组成新四军浙东游击纵队的基础。浦东武装南渡到三北后，立即开展了抗日游击战争。经过半年的艰苦奋斗，初步开辟出三北抗日游击区。随着军事上的不断胜利和统一战线工作的开展，浙东抗日武装在中共地方组织支持下，建立了政权性质的办事处。至此，浙东三北抗日游击根据地初步创立。
1942年6月下旬，根据华中局的指示，成立了中共浙东工作委员会，谭启龙任书记，统一领导浙东敌后的抗日斗争。同时，中共中央华中局、新四军军部和第六、第一师选派的干部何克希、张文碧、刘亨云等到达浙东，加强了浙东抗日斗争的领导力量。7月28日，经中共中央华中局批准，中共浙东区委正式成立，谭启龙任书记。8月19日、浙东军政委员会成立，何克希任书记，对浙东抗日武装实行统一领导。同月，成立了第三战区三北游击司令部，司令员何克希（化名何静），政治委员谭启龙（化名胡志萍），副司令员连柏生，参谋长刘亨云（化名刘云），政治部主任张文碧。随即将浙东主力部队统一整编为第三、第四、第五支队，以及南进支队、特务大队、新国民兵团、海防中队、教导队和特务连。为加强共产党的领导，中共浙东区委对浙东的中共地方组织进行了调整，除继续领导路南特委外，还建立了4个地区级的工委，即三北工委、四明工委、三东（鄞县、镇海、奉化三县东部地区）工委、会稽工委。不久，各工委改称地委。各部队的办事处正式转为地方政权，并成立了三北总办事处。
由共产党、新四军领导的三北游击司令部所属部队进入浙东虽然时间不长，并且使用国民党军第三战团的番号，以地方武装面目出现，但由于抗日坚决，发动群众广泛，很快引起日伪顽的注意。1942年8月以后，日伪军即对三北游击司令部部队发动“扫荡”，国民党顽固派亦乘机加紧在浙东反共，日、顽、我三角斗争形势骤然紧张起来。
中共浙东区委和三北游击司令部迅速调整部署，由谭启龙、何克希、张文碧率三北游击司令部机关及第四支队和教导队挺进四明山，控制了余姚、慈溪南部的一部分地区；由刘亨云率领第五支队坚持三北；由连柏生率特务大队和新国民兵团开辟慈溪东部和西部地区。
10月上旬，扫伪军调集上千兵力“扫荡”三北。国民党第三战区也指派忠义救国军第一支队等部3000余兵力于10月下旬南渡杭州海，分别在临山（余姚县北部）、段头湾（慈溪县北部）等地登陆，妄图将三北游击司令部部队消灭在沿海地域。
中共浙东区委、三北游击司令部根据中共中央华中局、新四军军部指示，决定在形势变化的情况下转变方针，集中力量首先巩固三北阵地，并以游击战坚持姚（余姚）南、慈（溪）南原有阵地，并尽可能地争取发展。1942年11月，为保卫和巩固三北阵地，中共浙东区委、三北游击司令部被迫集中全部军事力量进行第一次反顽自卫战。1943年初，三北游击司令部部队再度挺进四明山，攻克了梁弄，控制整个四明山地区，迅速推动姚江两岸和四明山地区的抗日政权建设。1943年4~5月间，诸暨北部抗日武装发展到六七十人。同年12月，建立了诸北办事处，后开辟了金萧游击根据地。原在金华东部、义乌西部活动的第八大队，于1943年7月进入诸（暨）义（乌）东（阳），开辟了以义乌北乡为中心的诸义东抗日游击根据地。这样，金（华）萧（山）地区的局面初步打开。
至此，以四明山地区为中心的浙东抗日根据地初步建成。三北游击司令部所属主力部队已发展到近3000人。
1943年12月22日，新四军军部命令三北游击司令部及所属部队改编为新四军浙东游击纵队，司令员何克希，政治委员谭启龙，参谋长刘亨云，政治部主任张文碧。下辖第三、第五支队、金萧支队、浦东支队（后改称淞沪支队）、三北自卫总队、四明自卫总队和直属教导大队、警卫大队、海防大队。共有主力2300余人，地方武装1300余人。