无奈之下，二人只好愤愤离去，返回长安重整军资，等待补给足够后再做行动。然而，这一推迟至少要半个月，到那时，刘协早已经远走高飞。完成断后的使命，徐晃无损回到杨奉身边，尽管立下了汗马功劳，但杨奉却对其闭口不提具体奖励，只给出了些许无关紧要的话语褒奖。这一举动让徐晃心中萌发离开之意。
到达洛阳之后，杨奉、韩暹等人发现这里几乎是一个荒废的都市。自从三年前董卓 ** 破坏并将首都迁移至今，这座昔日繁华之地仍是一座近乎无人居住的鬼城，作为国家的新首都显然是不现实的选择。除了回到这座空壳般的城市外，杨奉、韩暹二人也找不到其他合适的安置地点。以前可以考虑投靠张杨于上党，但是现在张杨已经离他们而去，即便是免于兵刃相接已属侥幸。
在董承建议下，杨奉和韩暹无奈只能派使者前往兖州求助曹操，期望曹操能派遣援军前来帮助。约二十日后，曹军抵达洛阳地区。显而易见，天子刘协不再愿意由杨奉和韩暹继续监护，这使得二人感到极其不满。趁着夜晚，两人打算带着刘协逃向淮南寻求袁术的帮助。然而，在他们尚未出发之时，曹操就已经对其发动攻击。甚至连徐晃也被满宠招降。最终，在这场对决中，杨奉和韩暹惨遭失败，只得率领百余残兵前往淮南避难。徐晃则正式加入曹操麾下成为一名将领，被封为骑都尉。
建安三年，曹操率军征伐吕布，同时派徐晃进攻臧霸，地点设在海西。在与臧霸属下的泰山精英对决时，徐晃显得势孤力弱。即使曹操也叮嘱徐晃，在不利情况下要迅速撤退，切勿顽固抗争。
然而，徐晃并没有过于担忧臧霸及其泰山精兵的战斗力。他认为，即便泰山精兵多么出色，也是要依赖后勤补给的，若切断敌方的粮草供应，战斗就能轻易获胜。想到这里，徐晃再次采取老办法，历经艰辛穿越山川，抢先一步截断了臧霸的粮食供应线，使臧霸难以及时发起攻势。待臧霸重新整备好粮草后，已经是建安四年的年初，这一过程持续拖延了七个月。
此时，曹操对下邳形成了包围之势，吕布的结局似乎已不可避免。经过深思熟虑，臧霸最终选择接受现实。他派遣使者向徐晃投降，并正式加入了曹操阵营。因在这次战役中的卓越表现，徐晃被曹操晋升为裨将军，成为了曹军中的重要将领。