1927年，“马日事变”后，长沙一片白色恐怖，陈树湘潜至武昌叶挺部新兵营当兵，后调任国民政府警卫团第四连排长。同年9月，随部在江西修水参加毛泽东领导的湘赣边秋收起义，并随起义部队上井冈山。

红四军成立后，陈树湘历任红四军三十一团七连连长、特务连连长、特务营党代表和二纵队四支队政委等职，参加井冈山根据地历次反“围剿”战斗和开辟赣南、闽西革命根据地的斗争。

1930年1月至1933年6月，陈树湘先后任红军(长)汀连(城)独立团团长，福建省军区独立第七师、独立第九师师长，红十九军五十四师师长。后红十九军缩编成红三十四师，他由师长“降”为一0一团团长，但他没有任何怨言。

1933年7月，在宁化与清流交界的泉上一役中，陈树湘率部在雾阁地区设伏，全歼敌援兵一个团。接着，在配合红四师攻占清流县城的那一战中，又击溃敌一个增援团。

1934年3月，战功卓著的陈树湘被任命为红三十四师师长。在第五次反“围剿”战斗中，陈树湘指挥全师在泰宁一线多次击退了3万余众国民党军的进攻，完成了牵制敌军的重任。在泰宁与建宁交界的梅河口防御战中，率部连续作战7天6夜，大量歼灭敌军，阻滞了敌军的攻势，后又奉命接连在建宁、石城、兴国等地阻击敌军。