至元三十年（1293年），程钜夫出任闽海道肃政廉访使。他兴办学校，注重教化，一时僚吏畏其严明的法纪，百姓爱戴这位慈善的长官。

　　大德四年（1300年），调任江南湖北道肃政廉访使。到任后，首先就整治了行省平章事家中一个祸害百姓的家奴，引起了震动，一时上下法纪肃然。其时，他注意选拔人才。如龙兴富城（今江西丰城）人揭傒斯，刻苦好学，这时正在漫游湘汉，程钜夫听说有这样一位好学的年轻人，立即召见他，诵其诗文，大加赞赏，经他推荐，揭傒斯出任国史编修官，累官至翰林侍讲学士，并在文史方面颇有成就。

　　大德八年（1304年），程钜夫被拜为翰林学士，参与中书省议事。

　　大德十年（1306年），因天旱时又突起风暴，星象有变。程钜夫应诏奏陈弭灾除害之策，他提出敬天、尊祖、清心、持体、更化五条。成宗认为很正确，加以采纳。其时云南省臣提出：世祖曾亲征云南，民众愿意在点苍山刻石以纪功德。成宗便令程钜夫撰文。

　　大德十一年（1307年），程钜夫任山南江北道肃政廉访使，复留为翰林学士。成宗崩，他奉命修《成宗实录》。

　　至大元年（1308年），《成宗实录》修成。次年，至上都（今内蒙古正蓝旗东北闪电河北岸）。

　　至大三年（1310年），程钜夫复任山南江北道肃政廉访使，调任浙江东海右道肃政廉访使，留为翰林学士承旨。

　　皇庆元年（1312年），主修《武宗实录》。

　　皇庆二年（1313年），程钜夫应诏上奏陈桑林六事，触件宰相意。次日，仁宗派近臣去安慰他说：“中书省集议，惟卿所言最恰当，以后望畅所欲言，不须顾忌。”于是诏程钜夫与平章政事（宰相）李孟一同议政。参知政事许师敬欲推广贡举法，程钜夫建议“经学当主程颐、朱熹传注”，“文章宜革唐宋宿弊”。于是，仁宗命令程钜夫起草诏令推行其主张。

　　致仕归家

　　皇庆二年（1313年）三月，程钜夫以老病求致仕还乡，末获准许。诏令由太医给药物治疗，安排他儿子程大本为郊祖署令，以便就近侍养。并时时派近臣去看望他，安慰他说：“卿乃是世祖旧臣，惟忠惟贞，其勉加餐粥，只是要稍留京师，以宽肤心。”后见他态度坚决，仁宗才同意。行前特授程钜夫光禄大夫，赠上尊称号，命廷臣以下官员至大都齐化门外饯别，并令行省等对程钜夫经常加以慰问。

　　程钜夫先后得到世祖、成宗、武宗、仁宗四位皇帝的倚重，是元朝信任、重用的少数南方籍官员之一。

　　延祐五年七月十八日（1318年8月14日），程钜夫去世，享年七十岁。

　　泰定二年（1325年），追赠大司徒、柱国，追封楚国公，谥号“文宪”。