刘文静因为跟李密沾亲带故，被关进了太原的大牢。李世民听说后，赶紧去探望他。刘文静说：“现在天下大乱，没有汉高祖、光武帝那样的本事，可平定不了。”李世民一听，说：“你怎么知道没有呢？只是人们还没发现罢了。我来看你，可不是为了叙旧，是想跟你商量大事，你说咱们该怎么办？”刘文静说：“皇上现在跑到江淮去了，李密正围攻乐都，天下的盗贼多得数不清。这时候，要是有个真龙天子站出来，号召大家，那夺取天下就跟玩儿似的。太原的老百姓都为了躲盗贼跑到城里来了，我在这当了好几年县令，知道谁是英雄豪杰，一旦把他们召集起来，十万大军不在话下。再加上你老爹带的几万兵马，咱们一声令下，谁敢不从？趁着这个机会，咱们打进关中，号令天下，不出半年，大业就成了。”李世民一听，笑着说：“你这话正合我意。”于是，他开始悄悄地准备，李渊还不知道呢。
有一天，李世民找了个机会，把李渊拉到一边，说：“爹啊，现在皇上昏庸无道，百姓生活困苦，晋阳城外到处都是战场。你要是只想着自己的小日子，下面盗贼横行，上面有严刑峻法，咱们迟早得完蛋。不如咱们顺应民心，起兵造反，把祸事变成好事，这可是上天赐给咱们的好机会啊！”李渊一听，吓得差点没蹦起来：“你咋能说出这种话呢？”第二天，李世民又来找李渊，说：“现在盗贼越来越多，满天下都是，爹你受命讨伐盗贼，能杀得完吗？希望爹你别再犹豫了。”李渊叹了口气：“我一晚上都在想你昨天说的话，也确实有道理。今天我这条命，这个家，是毁在你手里，还是变成国家，都由你了。”
在这之前啊，裴寂为了巴结李渊，把晋阳宫里的宫女送给李渊当小三。有一天，李渊跟裴寂喝酒，喝得差不多了，裴寂就慢悠悠地说：“二郎啊，他私下里养了一群敢死队，想干大事。就是因为我给你送了个宫女，怕事情败露了咱们都得被杀头，所以才急着这么干的。现在大家的心意都齐了，你看这事儿怎么办？”李渊一听，说：“我儿子要是真有这打算，事已至此，还能怎么办？只能跟着干了！”
那时候啊，李渊因为没能守住地盘，让盗贼给闹得不行，隋炀帝一生气，就派人来抓他，要把他带到江都去。李渊一听，吓得魂儿都快没了。这时候，李世民和裴寂等人又来找他，说：“事儿紧迫啊，咱们得赶紧拿个主意！”李渊一想，也是，就答应了。
巧的是，这时候刘武周占据了汾阳，李世民就对李渊说：“爹啊，你是留守，可盗贼都占到咱家门口了，再不拿主意，咱可就大祸临头了。”于是，大业十三年五月，李渊就让李世民和刘文静等人去招兵买马。没过几天，就招了一万多人。王威和高君雅一看李渊这架势，心里就嘀咕，怀疑他有反心，想收拾他。结果，李渊让李世民设了个局，把这两个人给咔嚓了。