，并不迁就他，结果引起杨谅不满。回师以后，杨谅向母亲哭诉，说颎独断专行，不把他放在里，还诬陷说，颎几次都想杀了他。独孤皇后十分愤慨，挑唆杨将颎罢官。

公元600年，杨废了太杨勇，改立次杨广为太。杨谅认为，自己辖的地盘大，兵粮足，父母又他，也是有条件当皇帝的，于是产生了谋反之心。

杨谅对父亲说：“突厥仍然很大，太原是军事重镇，应该加防备。”杨认为有理，便照杨谅的要求，征发大批民工劳役，修建城防，加备战，同时为并州扩充军队，贮存了大量兵和军用资，使杨谅势力一步增。

杨谅又招揽人才，积蓄力量。原南陈名将萧诃，投降隋朝后不得志，杨谅千方百计招到麾下。原南梁名将王僧辩的儿王頍，很有智谋，也被杨谅重用为咨议参军。杨谅积极招降纳叛，招收亡命之徒和无籍之人，达到数万之众。

杨广一直关注着杨谅的所作所为，知他有异心，但杨杨谅，他无从下手。杨广知父亲疼小儿，于是在陷害杨秀的时候，了木偶人，故意把杨谅的名字也写上，以激怒杨，结果杨秀获罪被废黜。杨秀被囚之后，杨谅心中十分不安，更加小心提防杨广。

公元604年，杨去世，杨广继位当了皇帝。杨广召杨谅回朝，杨谅心里有鬼，不敢朝，于是决定起兵造反。王府总皇甫诞认为不可，极力劝谏，杨谅不听，把皇甫诞关了监狱。

杨谅起兵，并没有提杨广弑父之事，而是打着“清君侧，诛杨素”的旗号。杨谅如果打着讨伐“弑父罪人”的大旗，号召力一定会相当大的，这说明“杨广弑父”在当时不被人们认可，后来的起义军，大多也没有提及杨广弑父的罪行。

杨谅虽然造反了，但他缺乏谋略，没有明确的战略目标。王頍提了两个方案，一是全力攻打都城长安，直接夺取皇位；二是分兵攻占并州附近地方，扩大地盘，割据自立。王頍让杨谅选择其中的一个。杨谅没有主见，觉得这两个方案都好，于是两办法都用，结果造成了兵力分散。

杨谅调兵遣将，分别从太谷、滏、井陉、雁门等地兵，去攻占地盘。同时又命将军裴文安，率军攻击长安。不料，裴文安发不久，杨谅忽然改变了主意，派人把他召了回来。原来，杨谅虽有野心，但从小受父母溺，没有上过战场，心里胆怯，不敢攻打长安，又想割据自立了。裴文安叹息说：“军事行动，必须诡秘神速，其不意，如此反复不决，大事难成。”

杨广得知杨谅造反，立即派名将杨素率军平叛。杨素兵神速，亲率五千骑，一举攻占并州南大门蒲州，大挫敌军锐气。然后，杨素又调集四万兵，不停蹄，直扑杨谅老巢太原。

杨谅闻讯大惊，亲率大军在蒿泽布阵抵抗。不料，天降大雨，带来很大困难，杨谅打算撤军。王頍急忙劝阻，说：“不可，杨素远而来，人困乏，而我军以逸待劳，大王又亲自战，士气旺盛，一定可以打败敌人。如果撤军，显得我们胆怯，会使我军沮丧，增长敌军气焰”。杨谅不听，将军队撤至太原清徐一带。

杨素见状大喜，激励将士，乘势军，在清徐与杨谅军队展开决战。杨谅命萧诃领兵战，萧诃虽是名将，但年事已，已经七十三岁了，手下将士又无斗志，结果兵败被杀。此役杨谅军队大败，被杀一万八千多人。王頍因杨谅不听他的计策，又见大势已去，也愤而自杀了。

杨谅遭此大败，军心涣散，只好退守太原城。杨素指挥大军，将城四面包围。杨谅知城池必不能保，束手无策，只好请求投降。杨谅起兵只有一个月，就宣告失败了。