开皇六年(586)闰八月，十八岁的晋王杨广应召入朝。十月，被任命为雍州牧、内史令。雍州即京兆郡，因而入主国都长安行政，并理朝政近两年。此间，隋文帝曾“幸晋王第”。开皇八年(588)十月，以晋王杨广为尚书令。同月部署了八路伐陈的兵力，晋王被任命为隋军统帅。
既然皇帝不亲征，太子作为国本留居京师不宜远出，次子杨广、将成年的亲王便自然是统帅的当然人选。这次意义重大的统一战争，给了他第一次在历史舞台上建功立业、崭露头角的宝贵机会。平陈一役，隋廷蓄谋已久。隋朝继承北周时，已与陈国隔江对峙。隋文帝开皇元年(581)二月在任命晋王杨广为并州总管后，三月即又任命贺若弼为吴州总管，韩擒虎为庐州总管，分别在江北的广陵(治今江苏扬州)、庐州(治今安徽合肥)，从东北、西北两个方向虎视建康(今江苏南京)的陈政权，准备实现其“并吞江南之志”。开皇八年(588)三月，隋文帝下诏伐陈，斥责陈后主陈叔宝“一入后庭，数旬不出”，“荒于酒色，不恤政事”。十月，杨广受命任淮南行台尚书令。他和秦王杨俊、清河公杨素并为行军元帅，但九十总管、五十一万八千大军“皆受晋王节度”。十一月饯行、誓师后，在“东接沧海，西拒巴蜀，旌旗舟楫，横亘数千里”的长江沿线出击。杨广这时向陈尚书令江总发出《遗陈尚书江总檄》。这篇他署名的文件，论述了中国治乱纷争终归一统的历史大势，交代了“惟废伪主”，百官归命可以“身保荣贵”的政策。
这时陈廷君臣深深迷信着长江天堑和金陵王气，对大军压境还满不在乎。后主同他的文人狎客们依旧“奉伎纵酒，作诗不辍”。平陈前，隋文帝使高问方略于李德林，以授晋王。实际隋军在长江全线发动攻势的战略，是根据崔仲方的建议制定的。战役首先由杨素和杨俊在中游打响，消灭或牵制住上方的陈军，使之不能声援下游陈军。
接着在开皇九年(589)正月一日，趁陈军沉浸在元日酒宴之机，隋军在长江下游发起总攻。贺若弼自广陵渡江攻占京口(今江苏镇江)，韩擒虎自横江(今安徽和县东南)渡江袭取采石(在今安徽当涂境)，迅速向建康合围。
渡江后一周，贺若弼就进据建康东门外的钟山，韩擒虎也进到西南城郊白鹭洲附近的新林。总攻开始时，杨广亲率大军屯建康正北方向的六合镇桃叶山(在今江苏六合东南瓜埠)。陈廷遣南豫州刺史樊猛与左卫将军蒋元逊，将青龙舰八十艘巡弋于白下以御六合兵，防守今南京城北金川门下筑有白下城的滨江要地。贺若弼、韩擒虎两军渡江时，杨广也派行军总管宇文述率三万兵由桃叶山渡江，夺取了石头山(在今江苏江宁西北)。而后遣总管杜彦与韩擒虎合军，步骑二万屯于新林。杨广并将合围建康城的消息报告皇帝。隋文帝闻讯大喜，宴赐群臣以示庆祝。正月二十日，举棋不定的陈后主忽然仓促决定出击，十余万陈军在城东排出二十里长蛇阵与隋军决战。隋军大胜，当天占领建康，俘获了陈叔宝。当时他藏身在景阳井中，开始隋军怎么喊他也不应，待井上扬言要落石，下面才惊叫起来，军士放下绳去，往上拽时感到特别沉重，原来陈叔宝将自己与宠妃张丽华、孔贵嫔捆在一起，一道上来了。隋文帝听到这故事时，惊奇不已。两天后，晋王入据台城，将陈后主关押在东宫，斩施文庆、沈客卿、阳慧朗、徐析、史暨慧等“五佞”于石阙下，以谢三吴。
此役隋军纪律严明。贺若弼渡江后，“军令严肃，秋毫不犯，有军士于民间沽酒者，弼立斩之”。战后杨广又立即处置一些将领的违纪行为，首当其冲的，却是这位名将。
因决战时，贺若弼不等统一号令，便擅自以本部八千兵出击，攻陈军十万兵的长蛇阵。初战失利，死二百七十二人，虽后来击孔范部得手，转败为胜，但先期决战，违军令，杨广将他收以属吏，关押待审。隋文帝驿传诏令杨广，非但不加罪，还赐物万段，褒美赏功。还有一个王颁，是被陈高祖袭杀的王僧辩之子，私自夜发陈高祖陵，焚骨取灰，投水而饮之，报了杀父之仇。事后自缚，向杨广请罪。杨广报告了皇帝，心境极好的隋文帝命赦而不问。建康平后，晋王命陈叔宝手书招上江诸将，派降将樊毅持书去找守江夏(治今武汉市武昌)的陈水军都督周罗，派陈荆州刺史陈慧纪之子陈正业去公安找其父。当时陈慧纪率将士三万、楼船千余艘，正准备入援建康。杨广招降此二人的计划成功，上江皆平。岭南一时还在高凉郡(治安宁，今广西阳江西)太夫人洗氏等控制下，晋王又命陈叔宝致书夫人，谕以国亡，使之归隋。岭南诸州亦定。于是陈国皆平，共得州三十，郡一百，县四百。自西晋末以来分裂近三百年的南方，终于又与北方归为一统。
