因为李渊起兵是打的“尊隋”的名义，所谓“请尊天子为太上皇，立代王为帝，以安隋室。”这时长安的最高统帅正是代王杨侑。李渊不便立即命令攻城，便三番五次派使者前去申明尊隋之意。代王杨侑年仅十三岁，长安的主要事务还需留守卫文升、阴世师等人承担。卫、阴二人见义军兵多马壮，其势逼人。不敢大意，封住所有城门信使不通。李渊的使者也只能站在城下，冒着箭矢射中的危险，一遍遍喊话，弄得口干舌燥，不见一点效果。见劝告十余日无效，李世民率诸将来到中军大帐，请求出战。李世民对父帅说：
“京城不启，此是隋运其亡。既灭亡之，非人能复。违天弃日，劳师费粮，坐守愚夫，恐非长策，请进围之，以观其意。”李渊却摇摇头说：
“文皇帝英明仁慈，功德行世，为渊一生所钦佩之人，今贸然起兵，心已不安。岂可再以刀兵加于皇都？”
不以刀兵加于皇都，弄二十万兵马来干什么？李世民见父帅说得冠冕堂皇，知其仍在做表面文章，于是率诸将进一步劝道：“无成王之主，不得行周公之事，又恐巨猾之徒，知必兵已定关中，来争形胜，请更思之。”
李渊不听，喝退众将，仍派使者到城下苦口婆心地劝说。李世民见父亲仍不肯撕下假面皮，心下忧虑，回到自己的大营，前思后想，觉得不能再拖延攻城了，一者怠诸将求战之心；二者几十万大军停滞不前，枉费粮草不说，还贻误战机；三者，李密瓦岗军兵强马壮，正发动第三次攻洛阳之战，屡败隋大将王世充。且李密一心想做义军盟主，今见李氏军围住皇都，恐心生嫉妒，别生歧义。
想到这些，李世民再也坐不住了，找来长孙无忌、房玄龄、杜如晦一齐商讨此事。房玄龄点头认可李世民的担忧，心生一计道：“可联络左军大都督陇西公李建成，暗使几路军马作势欲攻城，然后飞报大将军，言将领争欲攻城，不能制止，以此胁迫大将军早下攻城命令也。”
听房玄龄这样一说，李世民觉得此计可行，于是看了看杜如晦，杜如晦坚定地说：
“时不我待，请马上依计而行。”
房谋杜断，李世民马上修书一封，派长孙无忌前往长安城东南面、李建成的防区。
下午，在李世民、李建成的授意下，李世民的部将丘行恭，李建成的部将雷永吉等人，不等将令，擅自带领本部兵马，提着云梯，气势汹汹，在左右两个大营门口吵吵嚷嚷，欲强行冲卡，前去攻城。
李世民、李建成飞马赶到各自的营门口，自然是劝说不下，于是使人报与李渊，言诸军请求攻城，不能制止。
李渊闻之，从春明门外，急忙赶到安兴坊右军大营，声色俱厉，厉声喝斥，不准攻城。将佐们见主帅动了气，只好一副气忿忿的样子，收兵回帐。
房玄龄之计，虽未立即奏效，但也起了很大的作用，此事在李渊的心中也有了震动。当晚，李世民约上李建成，率文武官员来到李渊的大帐，齐刷刷地跪在地上，再次请求出战。李世民慷慨激昂地对父亲说：
“太原以来，所过未尝经宿，长驱四塞，罕有不克之城。今至京师，不时早定，玩敌致寇，以挫兵锋。又虑初附之人，私轻太原之兵无能为也！”
李渊也有李渊的考虑，他向诸将解释说：
“我不是不让你们攻城，而是想让天下人知道，我志欲安定天下，而不是以李代隋也。”
此乃“掩耳盗铃”之事，李渊未免看的过于认真。诸将不依，继续请战。正在这时，在城下苦口婆心一再申明尊隋之意的使者，带着箭伤回来了。
这乃一老先生，自谓饱读诗书，伶牙俐齿，此时却捂着大腿上的箭伤，一瘸一拐走进大帐，边走边招手向李渊叫着：“朽木不可雕也，粪土之墙不可圬也。”
面对将士们求战若渴的表情，面对年迈的使者带伤的大腿，此情此景，再容不得李渊犹豫了。但他还是一副下不了决心的样子，一会儿摇头，一会儿点头，一脸的凝重，好半天才痛下决心道：“明早开始攻城。晓谕三军，破城后，不得侵扰隋皇七庙及代王宗室，有敢违令者，罪及三族！”总攻这一天，选的也不是时候，大早晨，天幕低垂，整个战区显得格外寒冷，远处巍峨挺拔的秦岭模糊在铅灰色的云雾里。长安是隋朝的皇都，城墙坚厚，军用物资储存丰厚，并不是那么容易攻占的。
激战一上午，攻城部队无任何突破。这时，天开始变脸，寒风呼啸，鹅毛般的大雪漫天飞舞着。冯翊太守、军头孙华主动请战，要求下午担任主攻，不攻下城墙誓不回来。然而孙华还是在午后的攻城战中被流矢射中殒命了。
未占敌一墙一垛，先折一大将，望着越来越狂暴的雪天，李世民再次下令停止攻城。
退兵的锣声响起，士兵们扯下云梯，抬着死难者的尸体，退了下来。又死伤了上千兵士。李世民默默地观望战场，整个战场这时如死了一般，一群乌鸦在风雪中滚动，似乎也被血腥所惊动，呼啦一声展翅飞往高空……
要争霸天下，夺取江山，岂有不死人的。年轻的李世民，心硬如钢，安葬了烈士之后，冒着夜雪，到左军叫着兄长李建成，一齐赶往春明门，去见父帅李渊。
全线经过一天的激战，死伤近万，却毫无战绩，李渊心情郁闷，正在中军大帐一个人独自沉思徘徊，见李建成、李世民赶来，忙问军队的士气如何。李世民一拍胸脯说：
“只要主将信心百倍，兵士们没有退缩不前的。”
“你的右军第一天便折了一员战将，不可轻敌啊。”李渊忧心忡忡地对李世民说。
“父帅，”李世民提出自己的想法说，“我找兄长商议了，攻打长安不能像攻一般的城池一样，要打破常规。”
“你意如何？”李渊问。
“我想各个攻城部队，都分为若干部分，不分昼夜，不管天气如何，白天黑夜轮番攻城。”
李渊考虑了一下说：“不分昼夜攻城，若短时间不能成功，对将士们的心理折磨很大。像李密围攻洛阳二年，毫无突破。若放在我们这里，岂不将士离心，人走一空！”
“守城隋军痛恨隋炀帝暴政，畏我义军善战，其士气必然低落。我军不舍昼夜，轮番进攻，受折磨的首先是他们。”
“若短时间不能取胜又当如何？”
李世民满有把握地说：“我料多则半月，少则十天，必破长安。决不会如李密那样，在洛阳外围耗了两年。”
李渊拿不定主意，又召来左右谋士商议一下。大家也认为二公子说得有理，长安军备充足，利于快攻，慢了只会对我方不利。最后，李渊拍板，决定采纳李世民的计策。
当夜，部队在漫天大雪中继续攻城，一副不达目的誓不罢休的气概。守城的隋军没有料到这一招，仓促之间，没做部队轮换，在城西险些被破城。
攻城继续激烈地进行，李军战死者，皆有厚恤，有亲属者皆赠散官，将士们争相效命，不怕流血牺牲，奋力攻城。
激战持续到第十二天，情况极为惨烈，双方都为此付出了极大的牺牲，心理承受力又仿佛都到了极点。下午，军头雷永吉率领敢死队在城南率先登城。刀砍枪刺，全力杀散守城隋军，占领了城头一隅，后续登城部队没有了威胁，即蜂拥而上，把隋军赶下了城墙。南城门首先被打开，吊桥放下，早已期待已久的精锐骑兵，飞马冲进城中。
阴世师、骨仪等人率隋军与李氏军展开巷战，但很快地被打垮，隋军见城池一破，兵无战心，纷纷化装躲避或投降，长安四洞开，李氏军蜂拥而入。
雷永吉抢一匹战马，带领部下向代王杨侑所在的东宫冲去。代王的左右侍从及护卫亲兵，听说李氏军攻进城，谁也不愿卖命去保卫一个十三岁的毛孩子，纷纷丢弃铠甲，换上便服，逃得无影无踪。雷永吉率兵踏着满地丢弃的枪刀铠甲，径直冲上大殿。御阶上代王杨侑吓得小脸煞白，坐在龙椅上，抖成一团，旁边惟有一个人挺身站在他旁边。
杀红了眼的李氏军举着滴血的钢刀，在这金碧辉煌的大殿里迟迟疑疑，试试探探往前拥，一念之下，好像稍有点响动，就会把代王杨侑剁成肉泥。站在杨侑旁边的那个人神色不变，丝毫没有畏惧，他厉声喝道：
“唐公举义兵到此，本为匡辅帝室，谁敢无礼，必将灭其九族！”众将士闻言，皆愕然停下脚步，不敢向前。雷永吉晃着刀问：“你是谁？”
“我乃太子侍读姚思廉，你速速约兵退出殿外。”
“什么破侍读，给我绑起来！”雷永吉叫道。
手下人闻令，作势就要往上冲。但大殿门口却传来一声断喝：“不得无礼！”
随即冲进来上百个亲兵侍卫，把雷永吉的兵士赶出殿外。雷永吉见是大将军李渊到了，忙上前施礼，欲介绍情况。李渊忙推开他，冲宝座上的杨侑施礼道：“臣李渊参见代王！”杨侑吓得连眼也不敢看李渊，只是缩在那里簌簌发抖。姚思廉拱手向李渊道：
“请唐公负责代王的安全。”
李渊点点头，说：“乱兵之中，尚无秩序，请代王到大兴殿后厅暂居，我派我的卫队来保护您。”
代王哭哭啼啼，早没了主意，姚思廉也别无办法，只得搀扶起代王，在李渊卫兵的簇拥下，去往大兴殿后厅。李渊毕恭毕敬，亲自把代王送至顺阳阁下，又叮嘱亲兵好好看护代王，方跪地叩拜，洒泪而去。
李世民的主力部队迅速控制了宫城一带，负隅顽抗的敌将阴世师、骨仪等人被生擒活捉。
安排好城防巡逻，宫殿警卫等工作后，李世民领亲随护卫飞马赶到长乐宫中军驻地，向父帅汇报工作，并确定下一步行动。攻下长安，立代王侑为皇帝，挟天子而令诸侯，为最终夺取帝位，打下了厚实的基础。从五月太原起兵，到十一月攻下皇都长安，从起兵时的万余人发展到现在的二十万大军，短短的半年时间，形势的发展竟如此出奇的顺利，仿佛离皇帝宝座只有一步之遥。这些让李渊即高兴又惶恐。见李世民来到，忙招呼他坐下，问：
“现在长安军民的情绪怎么样？”
“战斗刚刚结束，正在收拾残局。由于事先晓谕三军，不准扰乱隋室、侵犯百姓。长安市内，百姓人等对义军的到来表现平静。”
“你觉得下一步首先要做的工作是什么？马上扶代王登基？”李渊又问儿子，二郎年纪虽轻，但精明强干，在许多重大的战略部署上，很有主见，给李渊留下了很深的印象。
“第一步首先出安民告示，与民约法三章，尽除隋朝苛政。新军入城，首先要出新气象，让百姓认定我李氏军是仁义之师，然后再具法驾迎代王即位。”
“好！”李渊看着儿子，高兴地说：“京城的防务、治安安民等问题都交给你，再说你手下的能人也多，办事都是行家里手。”
“父帅！”李世民拱手道，“阴世师、骨仪、丘师利等十余名隋将死心塌地，抵拒义师，请下令立即斩首，其余人等可用安抚的政策，既往不咎。”李渊点点头，说：
“京师刚刚攻下，工作头绪繁杂，你先忙你的吧，这事由我来处理。”
李世民走后，李渊命人把阴世师等人提来。当面问过，遂以“贪婪苛酷，阻拒义师”之罪，命人把阴世师等十余人推出辕门外，斩首示众，其余俘虏之众，悉令释放。裴寂却记起一个人来，对李渊说：
“有一个人不能释放，其罪等同阴世师，当判以斩刑。”
“谁？”李渊问。
“就是李靖。”裴寂说，“放了谁都不能放了这小子，此人自诩有才，放了以后，说不定以后会做出不利于我们的事来。”
提起李靖，可是大大的有名。他本名药师，乃雍州三原人。其祖父李崇义为北魏殷州刺史，其父李诠为隋赵郡太守。少年时代的李靖就颇有大志，常对亲朋说：“大丈夫若遇明，逢机时，必当立功创业，以取富贵功名！”李靖从小好学文史，兼习兵法，每与舅父暨名将韩擒虎一起研讨兵法，颇有心得，韩擒虎每每向人夸奖其外甥的才华。
及长后，李靖初任长安县功曹，后历贺部员外郎。左仆射杨素很欣赏他的才华，有一次拍着自己的宰相宝座对李靖说：“卿终当坐此。”
大业末，李靖任马邑郡丞。此时他敏锐地发现李渊坐镇太原，必有异谋，因戴上枷锁令长官押自己前往江都，以便向隋炀帝告密。后因道路不通，李靖又转向长安城，来找代王杨侑。城破被擒。李渊痛恨李靖的告密行为，当即派了亲兵，前去狱中把李靖提来。亲兵知道大将军憎恨李靖，特地用绳子在他身上捆了二三十道。被押进军帐的李靖不改他才子的傲劲，颔下长髯飘拂，龙走虎步，雅度不凡。李渊眼中亮了亮，但一想到“告密”二字，心中忿然，喝道：
“吾举义兵，匡扶天下，志在尊隋。汝起小人之心，欲去江都告密，该当何罪！”
李靖闻听此言大笑道：
“司马昭之心，路人皆知，何必遮遮掩掩。汝身为隋朝命官，起兵反隋，我李靖又不是你的人，为何不能密告皇上？”
李渊见他当场说穿自己起兵的真相，怒上加怒，喝令堂下的刀斧手：
“速速推出辕门，斩讫报来！”
刀斧手上来抓住李靖，往外就推。到了门口，李靖愤愤不平地回头大呼道：
“公起义兵，本为天下除暴乱，不欲就大事，何以私怨斩壮士！”李渊一听，心下佩服其言，正自踌躇。但帐外“噔噔噔”跑进一个人来，老远就大喊：“刀下留人！”
李渊定睛一看，是二子李世民，见他急得满头是汗刚要问话，李世民一把推开刀斧手，扶着李靖的肩，激动地对父亲说：“听说李靖被抓，我一路追来，好歹人还在这。李靖才勇双全，若收为我用，必能建立奇功。请大人不念旧罪，赦免授官！”李渊见李世民如此爱才，心下高兴，却故意沉思了一会，才准许其所请。
李世民忙亲自动手，为李靖解去缚绳，好言抚慰一番。李靖谢过李渊不杀之恩，欣然随李世民而去。
大业十三年（617年）十一月十五日，李渊所部士卒摇身一变成了御林军，从午门外一直排列到大兴殿。今天是代王杨侑即皇位的日子，虽然名不正言不顺，但一样也不能少，卤簿全副齐备，用的也是传胪的仪制。
辰时三刻，钟鼓齐鸣，午门大开，皇宫内升起一片天乐之声。李渊率文武官员，备法驾迎代王来到大兴殿。
净鞭响了三下，内官一队队捧出金炉，焚了龙涎香。年仅十三岁、瘦瘦的杨侑被人给套上了一身宽大的龙袍，他可怜巴巴，在原是李渊侍女的宫女们的推拥下，战战兢兢地坐上了龙椅。是为隋恭帝。
“吾皇万岁万岁万万岁！”堂下发出一片震耳欲聋的呼喊声，吓得杨侑不由得哆嗦了一下。
随之，裴寂代皇帝宣读诏书：
改元义宁，遥尊隋炀帝为太上皇：
以李渊为假黄钺、使持节、大都督内外诸军事、尚书令、大丞相、进封为唐王；
以武德殿为丞相府，改“教”称“令”，白天在大兴殿东侧的虔化门处理政事；
军国大小事务，各级文武官员的任命，赏功罚过，皆归丞相府处理。皇帝只管郊祀天地、四时禘祫；
设置丞相府属官，以裴寂为长史、刘文静为司马、李纲为司禄、窦威为司录参军。
读完诏书，又是一片“吾皇万岁万万岁”。屁股还没坐热的�