就在这个时期，刘知几写了一篇《思慎赋》。这篇赋既显露了刘知几的才华，也道出了他的苦闷，特别是抒发了他在苦闷之下经过冷静思考而痛下的志向。以知几之博学卓识之才，充任九品主簿，自然是大材小用，而且从弱冠之年入仕之始直到写《思慎赋》时已十五年没有迁升，感到仕途前程渺茫，这“思慎”只能是对现实的抗争。在盛唐的政治舞台上，刘知几身居仕班，但他没有成为政治家，是社会没给他提供机遇。唯其如此，他的精力又集中在学术事业上去了。

史馆遭遇

　　武后圣历二年（699），三十八岁的刘知几在做了十九年获嘉县主簿后，调任京师定王府仓曹。这次调职，有两个因素在起作用。其一，此时的刘知几已经是闻名全国的学者。青少年时代已以文学知名，主簿任上多次上表，也展示了他的才华。其二，则天诏修《三教珠英》，以为刘知几是个人选。据《旧唐书·徐坚传》载：“坚又与给事中徐彦伯、定王府仓曹刘知几、右补阙张说同修《三教珠英》。”时在圣历二年（699）。

　　《三教珠英》于长安元年（701）修成一千三百卷，次年知几出任著作佐郎。时年四十二岁。适如他自己所说：“长安二年，余以著作佐郎兼修国史，寻迁左史，于门下撰起居注。”从此开始了他的史官生涯。著作佐郎是著作局里的职任。著作局设有著作郎和著作佐郎，佐郎六人，秩位从六品上。自刘知几进入史馆后，面对着无数难以克服的矛盾。刘知几在《史通·自叙》中回顾自己在史馆修史的往事，不无感慨地说：“长安中，会奉诏预修《唐史》。及今上即位，又敕撰《则天大圣皇后实录》。凡所著述，尝欲行其旧义，而当时同作诸士及监修贵臣，每与其凿枘相违，龃龉难入。故其所载削，皆与俗浮沉。虽自谓依违苟从，犹大为史官所嫉。”

　　刘知几自长安二年（702）进入史馆，至中宗景龙四年（710），九年之中，“三为史臣，再入东观”。“长安二年以著作佐郎兼修国史，寻迁左史，于门下撰起居注。”这是一为史臣，一入东观（史馆）。中宗即位之后，“除著作郎、太子中允、率更令，其兼修史皆如故。”这就是二为史臣。中宗还京不久，“驿征入京，专知史事，仍迁秘书少监。”这就是三为史臣，再入东观。这些年，他参与修过《唐史》，重修《则天实录》等。但是，修史并没有给刘知几的功名追求带来多少帮助。