天禧年间，黄河决口，朝廷起用陈尧佐为滑州知州，制造木笼以减除水患，又修筑长堤，人们称作“陈公堤”。

入朝拜相

　　真宗驾崩后，朝廷营造永定陵，又移任陈尧佐为京西转运使，入朝担任三司户部副使，移任度支副使，参与撰写《真宗实录》。没有应试中书，朝廷特升其为知制诰兼史馆修撰、知通进银台司。

　　天圣二年（1024年），进升枢密直学士、知河南府。

　　天圣三年（1025年），移任并州知州。每次汾水暴涨，并州百姓往往忧虑，陈尧佐替他们修筑堤防，栽植柳树几万株，修造柳溪，百姓赖其利。

　　天圣五年（1027年），陈尧佐参与撰写真宗一朝国史。又接替其弟陈尧咨同知开封府，累迁右谏议大夫，任翰林学士。

　　天圣七年（1029年），拜枢密副使。当时祥符知县陈诂治理严厉苛刻，官员打算加罪陈诂，便使县为之一空，刘太后果然愤怒；但陈诂与宰相吕夷简连亲，执政大臣以嫌不敢争辩。事情传至枢密院，只有陈尧佐说：“惩处陈诂则奸吏得计，以后谁敢再约束胥吏呢？”陈诂因此得以免罪。陈尧佐其后以给事中之职任参知政事（副相），又升尚书吏部侍郎。

出知永兴

　　明道元年（1032年），四月，刘太后去世后，宋仁宗亲政，他首先罢黜刘太后所任用的宰相，陈尧佐因而于次年以户部侍郎之职罢知永兴军。经过郑州，被郡人王文吉以反叛事告发，传经御史中丞范讽处理，此事才辨明。改任庐州知州，移任同州知州，又移知永兴军。刘太后曾派宦官在京兆（今西安）造佛塔，前知永兴军姜遵为迎合太后，把古碑古碣全部毁掉充作砖瓦用，陈尧佐上奏说：“唐代贤臣墓碑，现在已损失十分之七八了。其子孙深深地镌刻大字，是想传之千载，一旦与瓦砾等同，实在是可惜。那些没有被毁坏的，希望敕令州县完整保护。”移任郑州知州。恰逢修造真宗章惠皇后的园陵，郑州陈设之物很严格，仁宗赐书褒谕。

晚年生活

　　景祐四年（1037年），授任同中书门下平章事、集贤殿大学士，再次拜相。

　　景祐五年（1038年），因数次出现灾异，罢为淮康军节度使、判郑州。