第二次北伐是在永和十二年（公元 356 年），征伐对象为羌族姚襄占据的洛阳地区。姚襄在中原拥兵自重，侵扰东晋边境，桓温再度出征。此役桓温汲取教训，战术运用得当，大军与姚襄激战于伊水之畔。桓温披甲执锐，亲率精锐骑兵冲锋陷阵，晋军士气大振，大破姚襄军队，成功收复洛阳。这一战果振奋东晋人心，桓温声望达新高峰，洛阳光复象征华夏正统部分回归；但东晋内部矛盾重重，朝堂无心经营北方，未给洛阳增派援军、输送物资，桓温留少量军队驻守后班师，不久洛阳再度沦陷。
第三次北伐发起于太和四年（公元 369 年），目标是前燕政权。桓温倾尽家底，率五万大军水陆并进，沿泗水、济水北上，初期进展顺利，屡挫前燕前锋部队。可关键时刻，前燕慕容垂临危受命，巧施妙计，佯装败退，诱使桓温孤军深入；又截断晋军粮道，火烧辎重。桓温军队陷入绝境，缺粮少衣，士气崩溃，遭遇惨败，死伤惨重，元气大伤。经此一役，桓温威望受损，东晋军事力量遭受沉重打击，北伐雄心几近熄灭。
政治漩涡：与士族门阀的权力纠葛
桓温北伐全程深陷东晋复杂政治局势泥潭。东晋皇权旁落，政治权力核心是几大门阀士族，琅琊王氏、陈郡谢氏等老牌士族虽历经风雨，根基深厚、文化底蕴悠长，对新兴桓氏心存忌惮，担忧桓温借北伐揽权，威胁家族利益。桓温第一次北伐无功而返时，朝堂之上王氏、谢氏子弟便借机弹劾，指责桓温指挥失当、冒进贪功，妄图削弱其兵权；第二次收复洛阳后，朝廷消极对待，不愿配合桓温巩固战果，实质是各士族联手制衡，防止桓温凭军事胜利一家独大。
桓温亦非坐以待毙之人，面对士族掣肘，他施展权谋手段反击。太和六年（公元 371 年），桓温借故废黜晋帝司马奕，改立简文帝司马昱，此乃惊天之举，彰显其操控皇权野心，向士族示威：他已手握废立大权，谁敢阻拦北伐、抗衡其权威，便是与皇权作对。这一事件引发东晋政治大地震，士族惶恐不安，却又投鼠忌器；简文帝在位期间，形同傀儡，朝政尽在桓温掌控，朝堂噤若寒蝉，政治生态扭曲，各方势力在高压下伺机而动。