过了几年，他由睦州移知苏州，因为治水有功，又被调回京师，并获得天章阁待制的荣衔，做了开封知府。前时一同遭贬的孔道辅等人，也重归朝廷。范仲淹在京城大力整顿官僚机构，剔除弊政，把工作安排得井井有条，仅仅几个月，号称繁剧的开封府就“肃然称治”。
范仲淹看到宰相吕夷简广开后门，滥用私人，朝中腐败不堪。范仲淹根据调查，绘制了一张“百官图”，在景祐三年(1036年)呈给仁宗。他指着图中开列的众官调升情况，对宰相用人制度提出尖锐的批评。吕夷简不甘示弱，反讥范仲淹迂腐。范仲淹便连上四章，论斥吕夷简狡诈。吕夷简更诬蔑范仲淹勾结朋党，离间君臣。 范、吕之争的是非曲直，不少人都看得分明。偏偏吕夷简老谋深算，善于利用君主之势而最终取胜。仁宗这年二十七岁，尚无子嗣。据说范仲淹曾关心过仁宗的继承人问题，或许谈论过立什么皇太弟侄之类的事。这事虽出于兴旺宋廷的至诚和忠直之心，却不免有损仁宗的自尊。加以吕夷简的从旁中伤，范仲淹便被递夺了待制职衔，贬为饶州知州。后来几乎又贬死岭南。 台官韩渎为迎合宰相意旨，请把范仲淹同党的人名，写成一榜，张挂于朝堂。余靖、尹洙、欧阳修等人，因为替范仲淹鸣不平，也纷纷被流放边远僻地。从此，朝中正臣夺气，直士咋舌。
这次到都门外送范仲淹的亲朋，已寥寥无几。但正直的王质，却扶病载酒而来，并称许“范君此行，尤为光耀！”几起几落的范仲淹听罢大笑道：“仲淹前后已是三光了，下次如再送我，请备一只整羊，作为祭吧！”第二天，有人警告王质说，他昨日送范仲淹的一言一动，都被监视者记录在案，他将作为范党被审查。王质听了，毫无畏色，反引以为荣。
饶州在鄱阳湖畔。从开封走水路到此，至少须经十几个州。除扬州外，一路之上竟无人出门接待范仲淹，范仲淹对此，也并不介意。他已经习惯于从京师被贬作地方官了。他捻着花白的髭缵，在饶州官舍吟起一诗；“三出青城鬓如丝，斋中萧洒过掸师”，“世间荣辱何须道，塞上衰翁也自知！” 范仲淹自幼多病，近些年又患了肺疾。不久，妻子李氏也病死在饶州。在附近做县令的诗友梅尧臣，寄了一首《灵乌赋》给他，并告诉他说，他在朝中屡次直言，都被当作乌鸦不祥的叫声，昔日愿他拴紧舌头，锁住嘴唇，除了吃喝之外，只管翱翔高飞。范仲淹立即回答了一首《灵乌赋》，禀复说，不管人们怎样厌恶乌鸦的哑哑之声，我却宁鸣而死，不默而生!
范仲淹看到宰相吕夷简广开后门，滥用私人，朝中腐败不堪。范仲淹根据调查，绘制了一张“百官图”，在景祐三年(1036年)呈给仁宗。他指着图中开列的众官调升情况，对宰相用人制度提出尖锐的批评。吕夷简不甘示弱，反讥范仲淹迂腐。范仲淹便连上四章，论斥吕夷简狡诈。吕夷简更诬蔑范仲淹勾结朋党，离间君臣。 范、吕之争的是非曲直，不少人都看得分明。偏偏吕夷简老谋深算，善于利用君主之势而最终取胜。仁宗这年二十七岁，尚无子嗣。据说范仲淹曾关心过仁宗的继承人问题，或许谈论过立什么皇太弟侄之类的事。这事虽出于兴旺宋廷的至诚和忠直之心，却不免有损仁宗的自尊。加以吕夷简的从旁中伤，范仲淹便被递夺了待制职衔，贬为饶州知州。后来几乎又贬死岭南。 台官韩渎为迎合宰相意旨，请把范仲淹同党的人名，写成一榜，张挂于朝堂。余靖、尹洙、欧阳修等人，因为替范仲淹鸣不平，也纷纷被流放边远僻地。从此，朝中正臣夺气，直士咋舌。
这次到都门外送范仲淹的亲朋，已寥寥无几。但正直的王质，却扶病载酒而来，并称许“范君此行，尤为光耀！”几起几落的范仲淹听罢大笑道：“仲淹前后已是三光了，下次如再送我，请备一只整羊，作为祭吧！”第二天，有人警告王质说，他昨日送范仲淹的一言一动，都被监视者记录在案，他将作为范党被审查。王质听了，毫无畏色，反引以为荣。
饶州在鄱阳湖畔。从开封走水路到此，至少须经十几个州。除扬州外，一路之上竟无人出门接待范仲淹，范仲淹对此，也并不介意。他已经习惯于从京师被贬作地方官了。他捻着花白的髭缵，在饶州官舍吟起一诗；“三出青城鬓如丝，斋中萧洒过掸师”，“世间荣辱何须道，塞上衰翁也自知！” 范仲淹自幼多病，近些年又患了肺疾。不久，妻子李氏也病死在饶州。在附近做县令的诗友梅尧臣，寄了一首《灵乌赋》给他，并告诉他说，他在朝中屡次直言，都被当作乌鸦不祥的叫声，昔日愿他拴紧舌头，锁住嘴唇，除了吃喝之外，只管翱翔高飞。范仲淹立即回答了一首《灵乌赋》，禀复说，不管人们怎样厌恶乌鸦的哑哑之声，我却宁鸣而死，不默而生!
范仲淹的诗文
宋代：范仲淹
优游滕太守，郡枕洞庭边。
几处云藏寺，千家月在船。
疏鸿秋浦外，长笛晚楼前。
旋拨醅头酒，新炮缩顶鳊。
宦情须淡薄，诗意定连绵。
迥是偷安地，仍当饱事年。
祇应天下乐，无出日高眠。
岂信忧边处，胡兵隔一川。
几处云藏寺，千家月在船。
疏鸿秋浦外，长笛晚楼前。
旋拨醅头酒，新炮缩顶鳊。
宦情须淡薄，诗意定连绵。
迥是偷安地，仍当饱事年。
祇应天下乐，无出日高眠。
岂信忧边处，胡兵隔一川。
宋代：范仲淹
把酒问东溟，潮從何代生。
宁非天吐纳，长逐月亏盈。
暴怒中秋势，雄豪半夜声。
堂堂云阵合，屹屹雪山行。
海面雷霆聚，江心瀑布横。
巨防连地震，群楫望风迎。
踊若蛟龙斗，奔如雨雹惊。
来知千古信，回见百川平。
破浪功难敌，驱山力可并。
伍胥神不泯，凭此发威名。
宁非天吐纳，长逐月亏盈。
暴怒中秋势，雄豪半夜声。
堂堂云阵合，屹屹雪山行。
海面雷霆聚，江心瀑布横。
巨防连地震，群楫望风迎。
踊若蛟龙斗，奔如雨雹惊。
来知千古信，回见百川平。
破浪功难敌，驱山力可并。
伍胥神不泯，凭此发威名。
宋代：范仲淹
江城有卒老且贫，憔悴抱关良苦辛。
众中忽闻语声好，知是北来京洛人。
我试问云何至是，欲语汍澜堕双泪。
斯须收泪始能言，生自东都富贵地。
家有城南锦绣园，少年止以花为事。
黄金用尽无他能，却作琼林苑中吏。
年年中使先春来，晓宣口敕修花台。
奇芬异卉百馀品，求新换旧争栽培，
犹恐君王厌颜色，群芳祇似寻常开。
幸有神仙接花术，更向都城求绝匹。
梁王苑衷索妍姿，石氏园中搜淑质。
金刀玉尺裁量妙，香膏腻壤弥缝密。
回得东皇造化工，五色敷华异平日。
一朝宠爱归特丹，千花相笑妖饶难。
窃药常娥新换骨，婵娟不似人间看。
太平天子春游好，金明柳色笼黄道。
道南楼殿五云高，钧天捧上蓬莱岛。
四边桃李不胜春，何况花王对玉宸。
国色精明动韶景，天香旖旎飘芳尘。
特奏霓裳羽衣曲，千官献寿罗星辰。
兑悦临轩逾数刻，花吏此时方得色。
白银红锦满牙床，拜赐仗前生羽翼。
惟观风景不忧身，一心岁岁供春职，
中途得罪情多故，刻木在前何敢诉。
窜来江外知几年，骨肉无音雁空度。
北人情况异南人，萧洒溪山苦无趣。
子规啼处血为花，黄梅熟时雨如雾。
多愁多恨信伤人，今年不及去年身。
目昏耳重精力减，复有乡心难具陈。
我闻此语聊悒悒，近曾侍從班中立。
朝违日下暮天涯，不学尔曹向隅泣。
人生荣辱如浮云，悠悠天地胡能执。
贾谊文才动汉家，当时不免来长沙。
幽求功业开元盛，亦作流人过梅岭。
我无一事逮古人，谪官却得神仙境。
自可优优乐名教，曾不恓恓吊形影。
接花之技尔则奇，江乡卑湿何能施。
吾皇又诏还淳朴，组绣文章皆弃遗。
上林将议赐民畋，似昔繁华徒尔为。
西都尚有名园处，我欲抽身希白傅。
一日天恩放尔归，相逐栽花洛阳去。
众中忽闻语声好，知是北来京洛人。
我试问云何至是，欲语汍澜堕双泪。
斯须收泪始能言，生自东都富贵地。
家有城南锦绣园，少年止以花为事。
黄金用尽无他能，却作琼林苑中吏。
年年中使先春来，晓宣口敕修花台。
奇芬异卉百馀品，求新换旧争栽培，
犹恐君王厌颜色，群芳祇似寻常开。
幸有神仙接花术，更向都城求绝匹。
梁王苑衷索妍姿，石氏园中搜淑质。
金刀玉尺裁量妙，香膏腻壤弥缝密。
回得东皇造化工，五色敷华异平日。
一朝宠爱归特丹，千花相笑妖饶难。
窃药常娥新换骨，婵娟不似人间看。
太平天子春游好，金明柳色笼黄道。
道南楼殿五云高，钧天捧上蓬莱岛。
四边桃李不胜春，何况花王对玉宸。
国色精明动韶景，天香旖旎飘芳尘。
特奏霓裳羽衣曲，千官献寿罗星辰。
兑悦临轩逾数刻，花吏此时方得色。
白银红锦满牙床，拜赐仗前生羽翼。
惟观风景不忧身，一心岁岁供春职，
中途得罪情多故，刻木在前何敢诉。
窜来江外知几年，骨肉无音雁空度。
北人情况异南人，萧洒溪山苦无趣。
子规啼处血为花，黄梅熟时雨如雾。
多愁多恨信伤人，今年不及去年身。
目昏耳重精力减，复有乡心难具陈。
我闻此语聊悒悒，近曾侍從班中立。
朝违日下暮天涯，不学尔曹向隅泣。
人生荣辱如浮云，悠悠天地胡能执。
贾谊文才动汉家，当时不免来长沙。
幽求功业开元盛，亦作流人过梅岭。
我无一事逮古人，谪官却得神仙境。
自可优优乐名教，曾不恓恓吊形影。
接花之技尔则奇，江乡卑湿何能施。
吾皇又诏还淳朴，组绣文章皆弃遗。
上林将议赐民畋，似昔繁华徒尔为。
西都尚有名园处，我欲抽身希白傅。
一日天恩放尔归，相逐栽花洛阳去。