王莽的残酷压榨，加上一连串的天灾，逼得农民走投无路，纷纷起义。东方和南方都有大批的农民起来反抗官兵。

公元17年，南方荆州闹饥荒，老百姓迫不得已到沼泽地区挖野荸荠充饥。人多野荸荠少，引起了争夺。新市（今湖北京山东北）有两个有名望的人，一个叫王匡，一个叫王凤，出来给农民调解，受到农民的拥护。大家就公推他们当头领。

王匡、王凤就把这批饥民组织起来起义，一会儿就聚集了好几百人，另有一些逃亡的犯人也来投奔他们。

王匡他们占领了绿林山（今湖北大洪山）作为根据地，攻占附近的乡村。不到几个月工夫，这支起义师发展到七八千人。

王莽派了两万官兵去围剿绿林军，被绿林军打得大败而逃。绿林军趁势攻下了几座县城，打开监狱，放出囚犯；把官家粮仓里的粮食，一部分分给当地穷人，大部分搬到绿林山。投奔绿林山的穷人越来越多，起义师增加到五万多。

第二年，绿林山上不幸发生了疫病，五万人差不多死了一半。另有一半只好离开绿林山，之后分作三路人马——新市兵、平林（在今湖北随县东北）兵和下江（长江在湖北西部以下叫下江）兵。这三路人马辨别占领一块地盘，队伍又壮大起来了。

当南方的绿林军在荆州一带打击官兵的时候，东方的起义师也壮大起来。琅琊海曲（今山东日照县）有个姓吕的老大娘，儿子是县里的一个公差，因为没肯依县官的命令毒打没钱付税的穷人，被县官杀害了。这一来激起了公愤。有上百个穷苦农民起来替吕母的儿子报仇，杀了县官，跟着吕母逃到黄海，一有机会就上岸打官兵。

这时候，另一个起义领袖樊崇带领几百个人占领了泰山。吕母死了后，她手下的人投奔樊崇起义师。不到一年工夫，就发展到一万多人，在青州和徐州之间来往打击官府、地主。

樊崇的起义师很讲纪律，规定谁杀死老百姓就要被处死，谁伤害老百姓就要受罚。所以，百姓能拥护他们。

公元22年，王莽派太师王匡（和绿林军中的王匡是两个人）和将军廉丹率领十万大军去镇压樊崇起义师。樊崇作好预备，跟官兵大战。为了避免起义兵士跟王莽的兵士混杂，樊崇叫他的部下都会在自己的眉毛上涂上朱颜色，作为识别的暗号。这样，樊崇的起义师得了一个别名，叫“赤眉军”。

王莽的军队和赤眉军打了一仗。结果，官兵打了败仗，逃散了一大半。太师王匡的大腿被樊崇扎了一枪，逃了回去；将军廉丹在乱军之中被杀了。赤眉军越打越强，发展到了十多万人。

绿林、赤眉两支起义大军辨别在南方和东方打败王莽军的新闻一传开，别地方的农民也都活跃起来。黄河两岸的大平原上大大小小起义师有几十路。有一批没落的贵族和地主、豪强也趁机起兵，反对王莽。

南阳郡舂陵（今湖南宁远北）乡的豪强刘縯（音ｙǐｎ）、刘秀兄弟两人，因为王莽废除汉朝宗室的封号，不许刘姓人做官，心里怨恨，发动族人和宾客七八千人在舂陵乡起兵。他们和绿林军三路人马联合起来，接连打败了几名王莽的大将，声势就壮大起来了。

绿林军的几支队伍没有统一的指挥。将士们认为人马多了，必须有个头领，才能统一命令。一些贵族地主出身的将军，利用事先有些人的正统看法，认为一定要找一个姓刘的人当头领，才能符合人心。

绿林军里姓刘的人许多，该推谁做头领呢？舂陵兵想推刘縯，可是新市宁静林兵的将领怕刘縯势力太大，一定要立一个破落的贵族刘玄做天子。刘縯又提出等消灭了王莽、收服赤眉军以后，再立天子，也遭到反对。刘縯觉得自己力量不够，也只好赞成了。

公元23年，绿林军各路将士就正式立刘玄做天子，规复汉朝国号，年号“更始”，所以刘玄又称更始帝。更始帝拜王匡、王凤为上公，刘縯为大司徒，刘秀为太常偏将军，其他将领也各有各的封号。

打那时候起，绿林军又称为汉军。