刘玄只能算是刘秀的族兄，和刘秀兄弟一样，都是没落的皇族子弟。这次到达义军，并不是和刘秀、刘伯升兄弟一样，主动起兵到此，而是出于无奈。当时刘玄在家乡舂陵，只是一个安分守己的平头老百姓，怎料其弟弟竟然在一次乱事中被人杀害，限于自己力量有限，刘玄便努力结交江湖豪侠，希望他们能够帮助自己报仇雪恨。哪知这群人不但没有达成自己的愿望，还为自己惹出了祸端。一日，他正和这群人在家饮酒作乐，忽然一个官府差役来此巡查。当时王莽新政，有令不允许百姓私自结交江湖人士的，刘玄一介百姓，他们几个都是附近有名的人，如果被衙役发现，定然会被问罪。刘玄担心之下，灵机一动，何不邀官差前来共饮一杯，或许他高兴之余，就将自己放过。哪知这几位江湖豪侠不屑刘玄的作为，见官差前来，竟然出言戏弄，官差一怒之下，将刘玄门下数人全部带走关进大牢。刘玄眼看自己若是不跑，必定会受到连坐之罪，就连夜跑了出去。
官府第二天前来问罪，竟然不见刘玄在家，所谓“子不教父之过”，官差直接将刘玄的父亲刘子张带去顶罪。幸好刘玄机警，他让人给家里买了一副棺材，诈死骗过了官差，他父亲也就幸免于难。此后刘玄有家难归，只能四处流浪，恰好碰见平林人陈牧、廖湛，聚集上千流民，号称“平林兵”，响应王匡、王凤。他就索性投了他们。留在乱军之中做了安集掾，负责征兵事宜。
他没有料到，好运很快就降临到他的身上。他一到王凤军中，便被重点看护，视为宝贝。等到了该朝立君的时刻，王凤等人竟然告诉他，由于他地位尊崇、身份高贵，那个新君竟然是他。一时之间，刘玄自然是喜不自胜，暗想莫非是祖上坟头冒青烟，自己寸功未见，才疏学浅，在毫无预料的情况下，竟然就要坐上天下英雄人人梦寐以求的位子。
他哪里知道，王凤等人只不过当他是一枚可供利用的棋子。用起来容易，抛弃就更加容易。
刘伯升知晓绿林军各位将领心中已有决意，但他还是比较委婉地说出了自己反对立刘玄为帝的看法，他认为，现在青州、徐州一带赤眉军实力大涨，人数达到十余万。如果他们听说南阳立刘氏宗亲为新天子，怕也会另立新君。如今王莽还没有被消灭，各路义军却再起纷争，宗室之间彼此攻伐，会使天下人疑惑而自相残杀，这不是一条消灭王莽、复兴汉室的正确道路。观察先人，可以发现如陈胜吴广、项羽等先起兵称帝的人，最终一定不能夺取天下。因而这立国立君之举，实在是糊涂之至。只有先尊崇一个德才兼备的人为诸侯王，才能够一方面避免几股义军之间大战，另一方面也起到联络各方，众志成城的作用。