生平

出身贵族

　　杨素弘农杨氏之后，先祖世代为官，祖父杨暄，官至北魏辅国将军、谏议大夫。父亲杨敷，为北周汾州刺史。杨素小时候穷困失意，不拘小节，有远大的志向。时人都不理解他，只有他的堂叔祖、魏朝的尚书仆射杨宽认为他很不一般，常对子孙说：“处道不是一般的人，他日一定出类拔萃，无与伦比，不是你们赶得上的。”杨素后来和安定人牛弘志同道合，他们勤奋好学，研究探讨精心专诚，从不感到疲倦，因而很多方面都精通或者涉猎。

　　后与安定人牛弘（后任隋朝礼部、吏部尚书）同窗共读，知识渊博，在文学、书法上均有造诣，史书称其“研精不倦，多所通涉。善属文，工草隶，颇留意于风角。美须髯，有英杰之表”。当时北周大冢宰宇文护把持朝政，引其为中外记室，后转礼曹，加大都督。

　　公元572年（北周天和七年）三月，北周武帝宇文邕诛杀宇文护亲掌朝政，杨素因曾受到宇文护的重用，所以遭到株连。此时，杨素以其父杨敷死于北齐，但未受朝廷追封，便上表申诉。周武帝不理。杨素再三上表，周武帝大怒，下令杀杨素。

　　杨素高声地说：“我给无道的天子做事，死是应该的。”周武帝闻后，对杨素刮目相看，赦其无罪，并追赠其父为大将军，谥忠壮。拜杨素为车骑大将军、仪同三司，并逐渐对其有了好感。周武帝又令杨素起草诏书，素下笔成章，文词华丽，周武帝赞扬道：“好好努力，不愁日后没有荣华富贵。”而杨素却回答说：“臣只怕富贵来逼臣，臣却无心谋取富贵。”

破齐立功

　　公元575年（北周建德四年）七月，周武帝率军攻北齐，杨素请求率其父旧部为先锋，周武帝应允了他，并且赐给他一条竹鞭，说：“我正要驱使天下，所以把这件东西赐给你。”杨素跟随齐王宇文宪在河阴和齐人交战，因战功被封为清河县子，食邑五百户。同年授司城大夫。

　　公元576年（北周建德五年）十月，杨素再次随宇文宪攻北齐，克晋州（治白马城今山西临汾境）。宇文宪屯兵栖原，北齐帝高纬率诸军自晋阳（今山西太原）向晋州进发。宇文宪闻北齐军主力至，大惧，乘夜而逃，结果为北齐军追上，北周军多被击溃。杨素与骁将十余人尽力苦战，宇文宪方得以解围。此后，杨素更是屡立战功。北齐灭亡后，杨素加上开府，改封成安县公，邑千五百户，赐以粟帛、奴婢、杂畜。