耶律阿保机担任于越之后，秉持国政，想任命耶律曷鲁为迭剌部夷离堇，耶律曷鲁推辞了，他对阿保机说：“贼人就在你身边，我不能远离你到别的地方去任职。”
耶律阿保机讨伐黑车子室韦，幽州刺史刘仁恭派养子赵霸率兵去救援黑车子室韦，耶律曷鲁得知后，就伏兵于桃山，等赵霸的人马有一半进入伏击圈的时候发起突然袭击，与耶律阿保机合兵攻击，斩首、俘虏了很多敌军，接着乘势降服了室韦。
李克用邀请耶律阿保机到云州相会，二人会见的时候，耶律曷鲁侍立在阿保机的身旁，李克用看了看耶律曷鲁，用赞许的语气问阿保机：“这位高大威猛的男子是谁？”耶律阿保机回答说：“这是我们家族的耶律曷鲁。”
痕德堇可汗去世，遗命推选阿保机为汗，契丹群臣奉遗诏请立耶律阿保机，耶律阿保机推辞说：“当年，我们祖先夷离堇雅里曾经以不该立而加以推辞，现在你们又这样说，是何道理？”耶律曷鲁进言说：“从前我们祖先的推辞，是因为遗旨没有提到，符瑞没有出现，只是为国人所拥戴罢了。现在先君言犹在耳，天赐神瑞，人心所向，天与人如出一辙。天命不可违背，人心不可拂逆，而君命也不得违抗。”
耶律阿保机说：“遗旨是有，你又怎么知道我继位是天命所归？”曷鲁说：“听说于越您出生之时，神光照天，奇香布满帷帐，梦中受到神人教诲，皇上钦赐金佩。上天向来不会私恩于人，必应于有德之人。我国衰弱，长期受邻近部落欺侮伤害，因此天生圣人来兴隆之。可汗知道天意，所以有此遗命。况且遥辇九营，繁密如棋，并非没有可立之人；臣民们一同倾心于于越您，此乃天意。当年，于越的伯父释鲁曾经说：‘我好比是蛇，侄儿好比是龙。’顺天时成人事，机不可失。”