第一次冲锋，只令一二百人的小队往前，第二队二三百人在后准备，同时，第三队，第四队依次准备。他下达死命令：各队必须战胜敌人，或者战死敌阵，不许活着回来。如敌人尚未消灭而自己却活着回来，则后面的梯队先把前队退回的将士立即斩于阵前，然后再接着冲杀。如此血腥的战法，不仅使己方战士心惊胆寒，也使敌方未经交手，先已畏惧三分。这种背水一战的不要命打法激发了大家奋勇向前、决死疆场的决心，这样的军队战斗力可想而知。
杨素之所以能做到这点，关键是其自身作战身先士卒，冲锋在前，为将士们作表率，战后论功行赏，为将士们的封赏据理力争，当时，别的部队也打了胜仗，或由于将帅不知在上面邀功请赏，或由于某些奸佞小人进谗言等原因，将士们付出了巨大的牺牲却得不到什么好处，挫伤了将士们的积极性。杨素则不然，他深得皇上宠信，敢做敢言，豪气中透出一般霸道。凡跟着他打仗的，不愁打不了胜仗，打了胜仗更不愁封官论赏，所以许多英雄豪杰愿意跟随他，在他旗下作战。
杨素虽然骁勇异常，却绝非有勇无谋之辈。他行军布阵奇正相合，变化莫测，同时又能因势利导，根据不同的情况、不同的对手采取不同的策略。隋朝统一北方以后，便意图伐陈，又苦于长江天堑之阻，杨素便在长江上游建造五牙大舰，组建了，一支庞大的舰队。此种舰分为五层，高百余尺，前后左右设置了6根拍竿以掌握航向和船身平衡，仅拍竿长度即达50尺。每舰可容战士800人，桅杆上高高飘扬着元帅大旗。
另外，他还建造了可容百余将士的黄龙舰以及平乘舰、舴艋舰等各种级别的战舰，互相搭配。舰队组建完毕以后，他亲率这支水军从上游直扑三峡。船至流头滩，两岸山崖笔立，如刀劈斧削一般，水下水上布列着大大小小的暗礁明石，形成了一道道天然屏障，且水流湍急，行船艰难。陈朝将领戚欣率百余艘青龙舰及数千军兵固守在狼尾滩，严阵以待。杨素详细考察了地形地势，认为如果白天攻击，则实力尽暴露于陈军之前，加以滩流迅急，战舰不好掌握，便决定夜晚攻击，这样可以扬长避短。