独立团以铁甲车队为基础，在广东肇庆扩大编成，起初被称为第四军十二师三十四团。铁甲车队除党代表廖乾吾调任第四军政治部主任外，队长周士第和三个排长、司书和班长、战士100名调到三十四团作为骨干。1926年春，第34团脱离第十二师建制，归第四军军部直接领导，并改称为第四军独立团，成为中国共产党直接领导下的一支革命武装力量。
独立团辖有三个营和直属勤务队，共2000余人，主要由三部分人组成：原来隶属元帅府的铁甲车队、黄埔军校抽调的部分骨干、从两广和湖南招募的农民积极分子。这是中国共产党人组建的第一支部队，带有鲜明的“党军”特色。独立团，因叶挺任团长，又称为叶挺独立团。它的番号虽然是国民革命军第四军独立团，但它实际上是一支由共产党直接领导的武装力量。
排以上干部的任免，部队人员的补充以及重大的军政训练计划都由共产党来决定，不受第四军约束。连以上干部绝大部分是共产党员、共青团员。全团建立共产党支部，各营建立党小组。独立团充分发扬民主，实行官兵一致的原则。实行经济公开，干部不搞特殊化。据说，独立团只有一匹马，行军作战，叶挺就让给伤病员骑，自己和战士一起爬山涉水。
叶挺独立团赢得“铁军”称号1926年4月，吴佩孚任命叶开鑫为“讨贼联军湘军总司令”，对唐生智部发动进攻。不久，国民革命军第7军第8旅，以及第4军所辖叶挺独立团等部作为先头部队，出兵援助被吴佩孚援军击败，而退守衡阳的唐生智部，拉开了北伐进军的序幕。在国民革命军的8个军中，第4军内的共产党员最多，叶挺独立团，又是其中战斗力最强的一支部队。
后来，叶挺独立团抵达湖南安仁县，击退正向安仁推进的直系军队。溃敌向攸县、茶陵败走，独立团乘胜追击，占领攸县。进入湖北后，北伐军决定用坑道战进攻，叶挺亲自指挥坑道作业，他终于指挥独立团占领了蛇山，首先进入武昌城。独立团在此次战斗中共牺牲191名官兵，独立团党支部决定在武昌洪山修建攻城官兵诸烈士墓，墓碑上镌刻着“精神不死”“先烈之血，主义之花”。
诸烈士的血铸成了“铁军的荣誉”等名句。这座烈士墓碑，成为共产党人和革命军人在北伐中英勇善战、不怕牺牲的历史见证。其二、红军的很多军级单位也会设置独立团，新六军的“湘鄂西独立团”与大洪山的襄北独立团比较有名，长征期间的“沿河独立团”则是游击队组成湘鄂西特委撤消，在湘鄂西省委成立前，同时还宣布对新六军进行整编，将军校学生编人，组成湘鄂西独立团，由段德昌任团长。
这个红军独立团辖一、二、三营和1个特务营。一营营长陈华山，二营营长陈光明，三营营长杨嘉瑞，特务营营长董国洲。宋盘铭传达了贺龙关于红二十六师坚持长期游击战争，千万不要离开大洪山”的指示。在大洪山内将鄂北游击总队、钟祥县游击大队和转移到大洪山的襄北各县游击队编人襄北独立团。这个独立团辖3个营、1个警卫连、1个手枪连、1个骑兵连，计1200余人枪。
后来，鄂北游击队也编人了襄北独立团，仍以鄂北游击队的名义开展活动。襄北独立团以大洪山为依托，游击于东起应城、京山、天门，西止荆门、当阳，北到宜城、随县的广大地区。红九师师长钟炳然、政委朱绍田亲自率部前往甘溪、上坝、淇滩一带发动群众，建立苏维埃政权和组织工农武装。红九师走后，又由红军干部贺炳炎、胡宏升带领的一个班的队伍组成工作队继续开展工作，先后组建十多个游击大队。
不久，各游击队整编为“沿河独立团”，贺炳炎任团长，胡宏升任政委经整编后的独立团下辖：10个大队，每个大队下分若干中队，中队下设分队和班，人员在1000人左右。沿河独立团共10多个游击大队。其三、抗日战争时期，抗日游击队组成的独立团最为有名，这些独立团的建制比较复杂，各地的情况差别很大1945年3月，部队整编，县大队建制扩大，改称夏津独立团，马立潮任团长，李开道任政委，冉义林任副政委，朱魁代理参谋长。
独立团辖六个连，除县大队的一、二、四连外，马立潮领导的运河大队13中队(4个排，其中1个回民排，共120人)编为三连。刘静波领导的五区区中队与六区区中队合编为五连，独立团总计近千人。在新四军第五支队的支持和帮助下成立了淮宝独立团，主要指挥员都由五支队连营以上干部担任。到1941年11月，淮宝独立团发展到700多人。
