西汉后期，土地兼并的情况十分严重，富者连阡陌，贫者无立锥之地，阶级矛盾日益尖锐，政局动荡。公元8年，外戚王莽篡权建“新”后，实行新政，把全国收归王国，私家奴婢改称私属，都不许买卖，由于地主官僚和贵族的反对，根本无法实行。王莽又多次改变币制。大量掠夺人民财富。进一步加深了人民的痛苦，再加上不断发动对少数民族的战争，各地天灾人祸连年不断，导致了绿林赤眉起义的爆发。
公元17年，王匡、王凤在湖北中部领导农民起义。以绿林山为根据地，故称“绿林军”。绿林军在向南阳插进过程中，皇族刘秀参加，23年，绿林军在昆阳与王莽主力决战，取得昆阳大捷，歼王莽四十万军队，随后，绿林军乘胜攻占长安，推翻了王莽的统治。
与此同时，樊崇领导的“赤眉军”也在同王莽军队作战，后被刘秀镇压。
从此“绿林好汉”这个名词就传开了。