当初，尚书窦瑾因事被杀，其子窦遵逃到山谷之中，其母焦氏被收进县官衙门，后因焦氏年老而得免受辱。窦瑾的亲朋故旧中没有人敢资助他。高允可怜焦氏年老，将其留在家予以保护，六年后，窦遵才得到恩赦。高允的品行大都如此。后转为太常卿，本来的职责仍同过去一样。高允上《代都赋》，来规劝皇上，与《二京赋》相似。当时中书博士索敞和侍郎傅默、梁祚论辩名字的贵贱，议论纷纷，高允于是撰《名字论》来解释其迷惑，有许多考证。后来又以本官领秘书监，解除太常卿之职，晋爵为梁诚侯，加左将军。

　　早年时，高允同游雅以及太原张伟同业友好，游雅曾作文评论高允，高允的为人被当时的人所推崇。 文成帝非常敬重高允，通常不直呼他的名字，习惯称之为“令公”。于是“令公”的名号远播四方。

　　晋为公爵

　　和平六年（465年），文成帝去世，其子献文帝拓跋弘继位，当时献文帝年幼又在居丧之中，侍中、车骑大将军乙浑专权，图谋危及北魏朝政。天安元年（466年），冯太后诛杀乙浑，召高允到禁宫中参与谋断大事。高允上表请求恢复先朝的规章制度，建议规定各郡设立博士、助教、招生学生数量等，献文帝听从了他的意见，在郡府成立学校。

　　后来高允因年老多病，屡次上书请求告老还乡。皇帝不许，于是写下《告老诗》，又因过去一同共事之人已零落将尽，感怀故去之人，做《征士颂》。

　　皇兴年间（467年―471年），献文帝下诏让高允兼任太常，到兖州祭祀孔子庙，对高允说：“这次检阅德行的行动不要推辞了。”后来高允跟随文成帝北伐，大胜而归，到武川镇时，奏上《北伐颂》，献文帝看后认为写得很好。

　　献文帝身体有不舒服的时候，因孝文帝拓跋宏当时很幼小，所以想立京兆王拓跋子推为太子，召集诸大臣一个个地询问。高允进来跪着上前哭着说：“我不敢多说，怕有劳皇上圣听。希望陛下上思宗庙托付的重要，远追周公辅佐成王的旧事。”于是献文帝将帝位传给了孝文帝，并赐高允千匹锦帛，表彰高允的忠直亮达。后又升迁为中书监加散骑常侍。然而高允虽然能够对古老典故及历史之事有很多掌握，却不能够专心下来勤奋地专心著述。当时他和校书郎刘模有一些辑辍，大部分是接续崔浩的旧作，仿照春秋的体裁，而且当时就有删削纠正的地方。从文成帝到献文帝，军国的书信檄文，大多是高允所写。后来就推荐了高闾来代替自己。因高允有帮助讨论决定重大政策的功劳，晋爵为咸阳公，加封为镇东将军。