前文我们讲过，李渊大军在公元617年十月初四已在长安城附近聚集，安营扎寨。到了十月十四日，李渊调动各路军马已对长安城构成合围之势，开始封锁围困长安城。
李渊命令众将不要急于攻城，而且严申军令，士兵不得擅自离营，不得入附近村落抢掠。同时派人至长安城下，向城中守将重申尊隋之意，义军是为了拥立代王杨侑为帝，废黜隋炀帝暴政而来，希望长安守军能弃暗投明，以免因用重兵双方遭受伤亡。
但是，李渊的好意，城内守军置若罔闻。不得已，李渊与诸将领商议准备攻城，并与部下相约“毋得犯七庙及代王、宗室，违者夷三族！”
李渊派人劝降长安城内的守军，希望能以和平方式解放该城，守军并未接受这一提议还存在另一个重要原因，那就是我们前文曾提到过的阴世师，他得知李渊欲起义兵，便杀害了李渊之子李智云，同时又挖毁李家祖坟，可谓缺德带冒烟之人。
阴世师此刻在长安城内提心吊胆，心虚不已。他深知自己无论投降还是抵抗，最终都将难逃一死，因此选择保持沉默，不作回应。
长安城内的代王杨侑只有十三岁，这位隋炀帝的孙子，已故隋朝太子杨昭的第三个儿子，可怜他还是个孩子却命运多舛。隋炀帝杨广此时还在江都迷楼享乐，长安城中的大事小事，全靠京兆内史卫文升等人操持。然而，卫文升年岁已高，听说李渊反隋后，就在家养病，不再参与政事，城中只有左翊卫将军阴世师和郡丞骨仪在调兵坚守。
卫文升（或名卫玄），洛阳人，是北周至隋朝时期的一位官员、将领，以其忠诚和勇敢着称。
骨仪，生于京兆长安（今陕西西安），天竺（今印度）人，胡族。隋朝时历任侍御史、尚书右司郎、京兆郡丞等职，，与阴世师一同抵抗李渊的军队。
十月二十六日，秋风萧瑟，营帐中的李渊正对着战略地图沉思。突然，帅帐外传来一阵急促的马蹄声，紧接着探马高喊着“报！”，冲进帐内。
探马单膝跪地，气喘吁吁地说道：“唐公，大事喜讯！李密瓦岗军在洛水之畔大破隋将王世允的主力军队。那场战斗甚是惨烈，王世允军大败逃亡河阳，已经溃不成军。”
李渊听闻，眼睛猛地一亮，瞬间来了精神，一拍帅案，大声道：“好！”
他终于等到了攻打长安城的大好时机。屈突通一直被刘文静牵制在别处，王世允又被李密打得毫无还手之力，自顾不暇。长安城如今就像孤立无援的孤岛，若此时能攻打长安城，极有可能一举拿下。这长安乃是隋朝的心脏，一旦得手，隋朝天下必然陷入更大的动荡，而他李渊的大业也将迈进关键的一步。
于是，李渊立刻传令召集众将。
不多时，李建成、李世民、裴寂等将官齐聚中军大帐。李渊站在众将面前，目光炯炯地说道：“今日得报，李密大破王世允，屈突通又被文静牵制。如今正是攻打长安的绝佳时机，长安隋军已无援军可期盼。此城若下，我等便可据关中而图天下。不知诸君意下如何？”
李建成上前一步，抱拳说道：“父亲，此乃天赐良机。孩儿认为当速速发兵。然长安地势险要，城墙高大坚固，不可轻敌。这几日，我军细作已探查清楚长安城的兵力部署、粮草储备以及城中防守薄弱之处。”
李世民也接着说道：“父亲，兄长所言极是。孩儿以为，我军可以先扎营于长安城外，佯装主力攻打东城，吸引敌军注意力，然后挑选精锐之师从防守相对较弱的南城突破。”
裴寂拱手道：“唐公，世民公子此计甚好。我等还可散布谣言，称我军得到大量火药，欲用火药破城。如此可扰乱敌军军心，他们在惊慌之中或许会犯下更多错误。”
刘弘基、殷开山沉稳地说道：“大人，攻城之时，我军需备齐登城器械，如云梯、冲车等。并且要事先安排好工匠，在城破之后尽快修复城墙，以防敌军援军突然赶到或者城中仍有隐藏的抵抗力量。”
李渊听着众将的分析，满意地点点头，说道：“诸君所言皆有道理。那便依此行事，建成、世民，你们二人各领一军，负责攻城的主要事宜。传令刘文静继续牵制屈突通，不可让他有援兵前来。裴大人负责后勤保障与器械打造，一切准备就绪，刘将军、殷将军，一旦城破，你们二人立即带领后军人马冲入城内，控制隋将，清理抵抗人员，明日攻城！”
众将齐声应道：“谨遵主公之命！”
十月二十七日，李渊正式下达了攻城的命令。
李渊汇合李建成、李世民、刘弘基之兵20余万对长安城开展了总攻，李建成负责攻打长安东、南两个方向，李世民负责攻打西、北两个方向。经过十多天的奋战，成功打开了一个缺口。军头雷永吉率先登上城头，隋朝故都长安被攻克。
在李渊攻占长安的战役中，雷永吉率领部队率先攻入城中，这一功绩在《资治通鉴》中有所记载，尽管他的姓名在史书中鲜有提及，但他的贡献是不可磨灭的。雷永吉在唐朝初年担任军头，是正四品下的官员，相当于现今厅局级正职的职务。在他的职业生涯中，雷永吉展现了出色的军事才能，尤其是在攻占长安的战役中，他的先登之功为唐朝的建立立下了汗马功劳。
李渊在攻入长安后，再次宣布约法三章，保护隋朝宗庙，严禁士兵烧杀抢掠，封存府库档案图集，显示了他对隋朝的尊重和对百姓的关怀。
《隋书》记载，长安城被攻陷后，阴世师、骨仪等顽固派仍在负隅顽抗，但是面对李渊义军的精锐之师，他们所带兵卒死的死，逃的逃，没多久阴世师、骨仪两人便被义军生擒活捉。
有演义小说等着作曾提到“卫文升一听到李渊的大军压境，吓得魂飞魄散，竟然一病不起，卧床不起。不久，卫文升听说长安城池被攻陷，立即吓死了。”
这一情节，并未在现有的正史记载中找到明确的证据，这一描述更可能是后人的艺术加工或误传。但巧合的是，在李渊义军攻入长安后不久，重病在身的卫文升在家中去世，享年76岁。
《资治通鉴》和《旧唐书》记载，十三岁的代王杨侑见长安城破，年少的他躲在东宫，身边的人奔逃溃散，只有侍读姚思廉守护在他身旁。
《旧唐书·姚思廉传》描述了当时的场景，义军攻入皇宫，喧嚣着正要闯上大殿，姚思廉挺身而出，大声说道：“唐公（李渊）起兵起义，本意是为了辅佐王室，你们现在怎么能这样对代王无礼呢！”众人听了他的话，都被震住了，于是纷纷退到台阶
李渊听说这件事后，认为姚思廉非常忠义，就到东宫迎奉代王杨侑，小代王年纪尚小，早已惊吓的腿脚发软，姚思廉只得扶着杨侑走到大兴殿（后唐时改称太极宫）后厅，流着泪跪拜而去。当时在场的人都赞叹道：“思廉才是真正的忠臣啊！有仁爱之心的人果然有勇气，说的就是这样的人吧！”
姚思廉（557年—637年），字简之，一说名简，字思廉，籍贯吴兴（今浙江湖州）。唐朝初期史学家、散骑常侍、唐初“十八学士”之一。姚思廉自幼受到良好的家学熏陶，跟随父亲姚察学习《汉书》，勤奋好学，对史学有着浓厚的兴趣。其最重要的成就是编纂了《梁书》和《陈书》，这两部作品为二十四史之一，对于研究南朝历史具有重要意义。
姚思廉的史学风格以简洁朴素着称，继承了司马迁及班固的文风与笔法，在南朝诸史中尤为难得。
姚思廉的职业生涯跨越了陈、隋、唐三个朝代，曾任隋朝代王杨侑侍读，唐朝建立后，姚思廉曾任秦王府文学，并在玄武门之变后进任太子洗马，对当时的政治有着深远的影响，成为李世民秦王府文学馆的一员，最终官至散骑常侍。
姚思廉在贞观十一年去世，享年81岁。他去世后，唐太宗深为哀悼，为之废朝一日，赠太常卿，谥号“康”，特许葬于昭陵。
姚思廉含泪拜别小代王后，李渊命人看管好代王杨侑，然后率众进入长乐宫。
为了显示新年代新气象，尽快争取到百姓们的支持，迅速恢复社会的稳定，李渊当即宣布废除隋朝的苛法暴政，并立即制定了约法十二条。