元好问二十一岁时返回故里，在离祠堂几十里外的定襄遗山读书，故而自号“遗山山人”。两年之后，蒙古大军突袭秀容，屠城十万余众，其兄元好古丧生。为避兵祸，元好问举家迁往河南福昌，后转徙登封。

　　卫绍王崇庆元年（1212年），元好问又到中都（今北京）第三次参加考试，仍未考中。这年正月，金朝三十万大军被蒙古击败，蒙古已逼近中都，路途的坎坷、国家的危机，加上考试的失败，使他的情绪非常低沉忧虑。

　　贞佑二年（1214年），蒙古兵围攻、金兵节节败退，金宣宗仓皇迁都南京，元好问于这年夏天赴汴京，准备将于秋天举行的考试。虽然考试又一次失败，但他却通过应试汴梁，得以与朝中名人、权要如赵秉文、杨云翼、雷渊、李晏等交接结好，诗歌创作极丰。其中《箕山》、《元鲁县琴台》等篇，深得时任礼部尚书的赵秉文赞赏，其文名震京师，被誉为“元才子”。但不久由于蒙古兵围攻，元好问不得不由山西逃难河南，并在豫西逐渐定居下来。贞佑五年（1217年），二十八岁的元好问又赴京赶考，仍未成功。

坎坷仕途
　　兴定五年（1221年），三十二岁的元好问进士及第，因科场纠纷，被诬为“元氏党人”，便愤然不就选任。又过了三年，到他三十五岁时，元好问又得到赵秉文等人的贡举，以考试优异得中科举。这次宏词科登第后，元好问才正式就选，被任为权国史院编修，留官汴京，但生活颇为清苦。

　　金哀宗正大二年（1225年），三十六岁的元好问因不满冷官生活请长假回到了登封，期间撰写了一部重要著作《杜诗学》，内容包括杜甫的传志、年谱和唐朝以来评论杜诗的言论。

　　正大三年（1226年），元好问任河南镇平县令。次年，改官河南内乡县令，不久其母张氏身故，其长子出生，元好问丁忧闲居内乡白鹿原，应邓州帅移刺瑗之邀，赴任幕僚。不久，蒙古军攻陷凤翔，邓州帅投降，元好问借机辞去幕府。

　　正大八年（1231年），元好问调任南阳县令，他在任上大刀阔斧进行改革，成绩斐然。所以河南志书称他“知南阳县，善政尤著”。《南阳县志》记载：“南阳大县，兵民十余万，（元好问）帅府令镇抚，甚存威惠”。