却说刘渊称汉王，未经朝廷封赏授信，私自称王，定会被讨伐。
并州又为司马腾辖下，于是他派遣将军聂玄率军讨伐刘渊，聂玄与刘渊在大陵展开激战，刘渊这边兵马锐不可当，晋军军纪涣散，兵士无心恋战，结果聂玄大败。
聂玄兵败的消息传来，司马腾恐惧异常，他本就吝啬少恩，臣属也不愿意与他一心抗敌，于是怂恿他从并州撤退。
司马腾于是顶风冒雪，率领并州的二万多户迁往山东。
刘渊岂能善罢甘休，305年六月，刘渊派兵主动出击，攻打司马腾。
司马腾知道自己不是刘渊的对手，于是问计群臣，有臣下道：“鲜卑拓跋部一直归顺晋朝，没有逾越之举，请求首领拓跋猗前来救援，他一定会来的。”
于是司马腾派使臣去求援兵。
拓跋猗迤与西晋交好，多用汉人名臣，身材魁梧，相貌英俊。
他看了司马腾的求援信，欣然接受，他乃英雄神武之人，因为过于魁梧，一般马匹根本承受不住，所以平时出战，都乘坐牛车。
他旋即亲率几千轻骑兵赶去救援司马腾。
刘汉大将綦毋豚，率领匈奴部与他激战，奈何鲜卑骑兵过于骁勇，不敌拓跋猗迤，两军阵前，拓跋猗迤竟将綦毋豚斩于马下！刘汉大军溃败。
拓跋猗迤并不追赶，他是来解围的，既然围已解，就飘然而去，回鲜卑去了。
司马腾见匈奴部族也并非传言当中那么厉害，居然被拓跋猗迤几千轻骑兵就打跑了，于是信心满满。又派遣司马瑜、周良、石鲜等人，驻扎离石汾城，发兵讨伐刘渊。刘渊派武牙将军刘钦等六军，抵御司马瑜等人，等到晋朝这边和刘渊对阵，就不是那么回事儿了，司马瑜与刘钦四次交战，四战皆败。
刘渊正欲大举兴兵，剿灭司马腾时，并州一带发生饥荒，军粮不济，刘毅劝谏道：“兵马未动，粮草先行。这样肯定不是办法，不如先命部队屯粮，准备充足，再战不迟。”
刘渊一听有理，命所辖部队，收缩战线，回到左国城，整顿防务，驻扎屯粮，同时加强戒备，虽不主动出兵，但有来犯之敌，却坚决不得姑息。
太原之城也都掳掠完毕，丢弃不守了。此时晋朝见刘渊回撤，也搞不清楚他的意图，只当是兵马不济，也无暇顾及了，任由他休养生息起来。