高衙内为了得到林冲的妻子而利用陆谦设计陷害林冲,林冲被发配沧州,凶残的高衙内不肯罢休,非要置林冲于死地,欲在野猪林狠下杀手,幸得鲁智深相救。
他在草料场看守时,又遭到陆谦、富安(高衙内亲信)放火暗算。因大雪压塌住处,无奈来到一个破旧的山神庙暂住一宿,林冲才幸免于难。正因此才凑巧听见门外陆谦和富安、牢城管营的谈话,得知自己已被陷害的真相,而且差点被害死。
恼怒中,林冲终于爆发,提枪戳死三人,冒着风雪连夜投奔梁山泊,可以说正是这次事件,才使得林冲对官场仅存的美好愿景化为泡影,走投无路,不得已只得投靠梁山。
林冲上梁山后,寨主“白衣秀士”王伦嫉贤妒能,多方刁难,要林冲献投名状,结果林冲与“青面兽”杨志打得难分高下。王伦企图让杨志也上山来,以制衡林冲,却被杨志拒绝。
当晁盖等上山入伙时,王伦又托词推拒,林冲在吴用的智激之下,火并了王伦,吴用等推林冲坐第一把交椅,遭到拒绝。最后推晁盖为大头领,开拓了梁山的新局面。
此后,林冲作为梁山主要战将参与了一系列战役,战功赫赫,使得山寨逐渐发展壮大。