杨素率领水军继续东下，大小战船铺满了整了江面，旌旗盔甲在阳光下鲜艳耀眼。杨素端坐在平乘大船之上，容貌体魄雄健魁伟，陈国人望而生畏，都说：“清河公就是长江之神啊！”

　　陈荆州刺史陈慧纪派南康内史吕忠肃率军屯守歧亭（今长江西陵峡口），在两岸岩石上凿孔，系三条铁索横截江面，阻遏隋军战船。为固守峡口，吕忠肃将自己私产全部捐出充军，所以陈军斗志颇高，防御也很严密。

　　公元589年（开皇九年）正月，杨素分兵一部与大将军刘仁恩军相配合，猛攻陈军岸上栅障营垒，吕忠肃率军据险抵抗，激战四十余次，隋军伤亡惨重，死五千余人。陈军尽割死者之鼻以邀功求赏，激起隋军愤怒，拚死力战，多次获胜。所俘陈军将士，杨素则全部释放。在隋军猛烈攻击下，吕忠肃被迫放弃营栅，连夜逃走。杨素令士卒毁掉栏江铁索，继续沿江而下。

　　吕忠肃退据荆门之延洲（今湖北枝江附近长江中），依恃荆门山险要地形，再次阻遏隋军。杨素派善于驾舟的巴延士卒一千人，乘“五牙”战舰4艘，用舰上拍竿击碎陈战船10余艘，俘二千余人，再次大破吕忠肃军，吕忠肃只身逃走。驻守江南岸安蜀城（今湖北宜都西北长江南岸）的陈信州刺史顾觉，也弃城逃走。屯守公安（今湖北公安西北）的陈慧纪见形势不利，烧掉储蓄，率军3万、战船千余艘，顺流东撤，企图入援建康（今南京市），被秦王杨俊军阻于汉口（今湖北汉水入长江之处）以西。巴陵以东，无敢守者。陈湘州刺史，岳阳王陈叔慎亦降于杨素。此战，杨素、刘仁恩以水军、步兵相配合，先击破陈军江岸据点，再以水军战船接舷战，大破敌军。隋大型战舰“五牙”及重型拍竿装备在作战中显示了威力。优俘政策对瓦解陈军、配合军事进攻，具有积极作用。至此，长江上游为隋军所控制，阻止了上游陈军的东援，保障了下游主力的渡江作战。

　　隋军在长江上游作战获胜后，杨素一面率主力沿江东下，与秦王杨俊会师于汉口（时下游隋军已攻占建康），一面派兵南下略地，扩大战果。二月初又派薛胄、刘仁恩率军进击湘州。隋军一举击败出城迎战的陈湘州助防遂兴侯陈正理和樊通军，薛胄等乘胜入城，俘陈叔慎。刘仁思军再破邬居业于横桥（今湖南常德），擒邬居业等。湘州等地的平定，为隋进军岭南准备了前进基地。