公元7年，起义军由数百人一下子发展到七、八千人，王匡、王风率领这支农民军，占领了绿林山(今湖北大洪山)，把这里作为根据地，继续发展队伍，对抗朝廷。这就是历史上有名的“绿林军”。

公元21年，王莽见起义军的势力渐渐大了起来，赶紧派荆州牧率两万官兵围剿绿林军，结果反被绿林军打得大败而逃。打了胜战的绿林军，气势更加高涨。他们趁势攻占了竟陵(今湖北天门)、安陆等几座县城，打开监狱，放出关押的犯人，又把官仓的粮食拿出来，分发给饥饿的穷人。一时间，绿林军军威大振，数不清的受苦人纷纷投奔绿林山，队伍一下增加到五万余人。

由于医疗卫生条件较差，第二年，绿林山不幸发生了瘟疫，五万多人将近死去了一半。起义军不得不撤离绿林山，分作两路，寻找新的根据地。一路由王常、成丹率领，西入南郡，号称“下江兵”；另一路是主力，由王匡、王风率领，北上南阳，号称“新市兵”。这时候，平林(今湖北安陆北)人陈牧、廖湛聚兵起义，号称“平林兵”。农民起义军一下子由一支变成了三支，各占一块地盘，队伍又渐渐壮大起来。

与荆楚农民起义军遥相呼应，山东樊崇领导的“赤眉军”，也如火如荼地闹腾起来。他们大败王莽派去的镇压部队，在与官兵的斗争中，队伍发展到十余万人。

在声势浩大的农民起义的影响下，地主、豪强也趁机起兵。南阳西汉宗室刘缤、刘秀兄弟俩策动族人、宾客七、八干人起兵于舂陵(今湖北枣阳)，号称“舂陵兵”。他们和绿林三路人马汇合，连败王莽数员大将的进攻，队伍迅速发展。到十余万人。

汇合起来的绿林军由谁来指挥呢?这当然是一个必须解决的问题。豪强地主利用当时起义军将士心中尚有的正统观念，推举出破落贵族刘玄。公元23年，绿林军在清阳立刘玄做了皇帝，恢复汉朝，改年号“更始”。王匡、王凤做了上公，刘演为大司马，刘秀为太常偏将军。从那时候起，绿林军又称为汉军。