为了达到诱敌的目的，冒顿单于将自己的精锐士兵和肥壮牛马全部隐藏到了谷内深处，而之将老弱残兵和瘦弱的牲畜布置于谷口。
虽然一连串的胜利，让刘邦有些骄傲轻敌，但多年纵横疆场的经验，还是让他保留了最后一丝理智，为了确保万无一失，刘邦又一连派出十余批斥候，前往代谷周边探查匈奴虚实，这些斥候皆回报说匈奴势弱，可以攻击。
刘邦见十余路斥候的探查结果一致，这才尽起大军北上，但随军谋士刘敬心中却有疑虑，并表示希望亲自前往探查，刘邦见其态度坚决，只好命其再度前往。
刘敬探查一番后，回报说，“两国交战，正是应该炫耀自己长处之时，然而我去探查了一番，却只发现瘦弱的牲畜和老弱的士兵，这显然是在故意暴露自己的短处，而将精兵埋伏起来的表现。我认为不该贸然出兵”。
然而，此时刘邦已经率汉军先锋出了雁门关，后方的二十余万主力也已经自晋阳开拔，又怎么可能就此退军。更何况，刘邦派出的侦骑都是多年的老兵，而刘敬不过是个文人，并无战阵经验，两相比较刘邦自然更信那些老兵，再加上刘敬探查一番后也未能发现匈奴主力所在，其所言也不过自己的猜测罢了，刘邦如何肯信。
因此，听了刘敬的话，刘邦非但没有撤军，反而骂道，“齐国孬种！以口舌之利得以做官，如今竟敢胡言乱语阻碍我的大军”，当即命人用镣铐将刘敬给拘禁起来，押赴广武县，准备等到凯旋之后再予以惩处。
没有听取刘敬建议的刘邦，亲率先锋继续北上。因其所率的先锋部队以骑兵为主，又无粮草辎重的拖累，很快便拉开了与后方汉军主力的距离，但刘邦对此却毫不在意，毕竟按照探察，代谷的匈奴军队也不过是些老弱病残，根本不是自己这些先锋精锐的对手。
刘邦率领数万先锋一路北上，直到抵达了雁门郡的平城，才停下了前进的步伐，再度派遣侦骑往代谷方向探查，为即将到来的决战做准备。
在刘邦率兵北上的同时，冒顿单于也一直在关注着汉军的动向，当得知汉军数万先锋部队脱离主力北上的消息后，冒顿单于顿时大喜过望。在他看来，只要消灭了这些汉军骑兵，以匈奴骑兵的机动力，对付后方以步兵为主的汉军主力，根本不成问题。
意识到机不可失的冒顿单于，立即精兵尽出。冒顿单于兵分数路，在切断汉军先锋部队退路的同时，从各个方向压向平城，渐成合围之势。