海瑞兴利除害，请求整修吴淞江、白茆河，通流入海，百姓得到了兴修水利的好处。海瑞早就憎恨大户兼并土地，全力摧毁豪强势力，推行“一条鞭法”，安抚穷困百姓。贫苦百姓的土地有被富豪兼并的，大多夺回来交还原主。深受百姓的爱戴，叫他“海青天”。

　　徐阶被罢免之后在家中居住，海瑞追究徐家也不给予优待。推行政令气势猛烈，所属官吏恐惧奉行不敢有误，豪强甚至有的跑到其他地方去躲避的。而有些奸民多乘机揭发告状，世家大姓不时有被诬陷受冤枉的人。又裁减邮传冗费，士大夫路过海瑞的辖区大都得不到很好地张罗供应，因此怨言越来越多。

倍受排挤

　　1570年（隆庆三年）冬季，都给事中舒化说海瑞迂腐滞缓，不通晓施政的要领，应当用南京清闲的职务安置他，明穆宗还是用嘉奖的语言下诏书鼓励海瑞。不久给事中戴凤翔弹劾海瑞庇护奸民，鱼肉士大夫，沽名乱政，于是海瑞被改任南京粮储。
海瑞巡抚吴地才半年。平民百姓听说海瑞解职而去，呼号哭泣于道路，家家绘制海瑞像祭祀他。海瑞要到新任上去，正遇高拱掌握吏部，早就仇恨海瑞，把海瑞的职务合并到南京户部当中，海瑞因此遂因病引退，回到琼山老家。

　　海瑞在1571年（隆庆四年）曾前往福建晋江潘湖，黄光升的府邸拜见黄光升，以谢当年营救保护之恩。

　　1572年（万历元年），张居正主持国政，也不喜欢海瑞，命令巡按御史考察海瑞。御史到山中审察，海瑞杀鸡做菜招待御史，房屋居舍冷清简陋，御史叹息而去。张居正惧怕海瑞严峻刚直，中外官员多次推荐，最终也不任用。

　　1584年（万历十二年）冬天，张居正去世之后，吏部拟用海瑞为左通政，明神宗朱翊钧向来器重海瑞的名望，1585年（万历十三年）正月，召海瑞为南京右佥都御史，在赴任的路上改为南京吏部右侍郎，海瑞当时年已七十二岁了。上疏言衰老垂死，愿意效仿古人尸谏的意思，列举明太祖朱元璋刑法，剥人皮装上草制成皮囊，以及定律枉法达八十贯判处绞刑的规定，说应当用这样的方法惩治贪污。其它谋划时政，言语极为切实。只有劝皇帝用暴虐刑法，当时评议认为是错误的。御史梅鹍祚弹劾海瑞。明神宗虽然认为海瑞言论有过失，然而清楚海瑞的忠诚，为此免去梅鹍祚的俸禄。