侍读，高祖常御内殿，引见之。谓曰：「晋公不臣之迹，朝野所知，朕所以泣而诛者，安国家，利百姓耳。昔魏末不纲，太祖匡辅元氏；有周受命，晋公复执威权。积习生常，便谓法应须尔。岂有三十岁天子而可为人所制乎。且近代以来，又有一弊，暂经隶属，便即礼若君臣。此乃乱代之权宜，非经国之治术。诗云：「夙夜匪解，以事一人。」一人者，止据天子耳。虽陪侍齐公，不得即同臣主。且太祖十儿，宁可悉为天子。卿宜规以正道，劝以义方，辑睦我君臣，协和我骨肉。无令兄弟，自致嫌疑。」文举拜谢而出，归以白宪。宪指心抚几曰：「吾之夙心，公宁不悉，但当尽忠竭节耳，知复何言。」
建德（二）年，进爵为王。宪友刘休征献王箴一首，宪美之。休征后又以此箴上高祖。高祖方剪削诸弟，甚悦其文。宪常以兵书繁广，难求指要，乃自刊定为要略五篇，至是表陈之。高祖览而称善。
其秋，高祖幸云阳宫，遂寝疾。卫王直于京师举兵反。高祖召宪谓曰：「卫王构逆，汝知之乎？」宪曰：「臣初不知，今始奉诏。直若逆天犯顺，此则自取灭亡。」高祖：「汝即为前军，吾亦续发。」直寻败走。高祖至京师，宪与赵王招俱入拜谢。高祖曰：「管蔡为戮，周公作辅，人心不同，有如其面。但愧兄弟亲寻干戈，于我为不足耳。」初，直内深忌宪，宪隐而容之。且以帝之母弟，每加友敬。晋公护之诛也，直固请及宪。高祖曰：「齐公心迹，吾自悉之，不得更有所疑也。」及文宣皇后崩，直又密启云：「宪饮酒食肉，与平日不异。」高祖曰：「吾与齐王异生，俱非正嫡，特为吾意，今袒括是同。汝当愧之，何论得失。汝亲太后之子，偏荷慈爱。今但须自勖，无假说人。」直乃止。
四年，高祖将欲东讨，独与内史王谊谋之，余人莫得知也。后以诸弟才略，无出于宪右，遂告之。宪即赞成其事。及大军将出，宪表上私财以助军费曰：「臣闻抚机适运，理藉时来，兼弱攻昧，事资权道。伏惟陛下继明作圣，阐业弘风，思顺天心，用恢武略。方使长蛇外翦，宇宙大同，军民内向，车书混一。窃以龙旗雷动，天网云布，刍粟粮饩，或须周给。昔边隅未静，卜式愿上家财；江海不澄，卫兹请献私粟。臣虽不敏，敢忘景行。谨上金宝等一十六件，少助军资。」诏不纳，而以宪表示公卿曰：「人臣当如此，朕贵其心耳，宁须物乎。」乃诏宪率众二万为前军，趣黎阳。高祖亲围河阴，未克。宪攻拔武济，进围洛口，收其东西二城。以高祖疾，班师。是岁，初置上柱国官，以宪为之。
五年，大举东讨，宪率精骑二万，复为前锋，守雀鼠谷。高祖亲围晋州。宪进兵克洪同、永安二城，更图进取。齐人焚桥守险，军不得进，遂屯于永安。齐主闻晋州见围，乃将兵十万，自来援之。时柱国、陈王纯顿军千里径，大将军、永昌公椿屯鸡栖原，大将军宇文盛守汾水关，并受宪节度。宪密谓椿曰：「兵者诡道，去留不定，见机而作，不得遵常。汝今为营，不须张幕，可伐柏为庵，示有形势。令兵去之后，贼犹致疑也。」时齐主分军万人向千里径，又令其众出汾水关，自率大兵与椿对阵。宇文盛驰骑告急，宪自以千骑救之。齐人望谷中尘起，相率遽退。盛与柱国侯莫陈芮涉汾逐之，多有斩获。俄而椿告齐众稍逼，宪又回军赴之。会椿被敕追还，率兵夜返。齐人果谓柏庵为帐幕也，不疑军退，翌日始悟。
时高祖已去晋州，留宪为后拒。齐主自率众来追，至于高梁桥。宪以精骑二千，阻水为阵。齐领军段畅直进至桥。宪隔水招畅与语，语毕，宪问畅曰：「若何姓名？」畅曰：「领军段畅也。公复为谁？」宪曰：「我虞（侯）〔候〕大都督耳。」畅曰：「观公言语，不是凡人，今日相见，何用隐其名位？」陈王纯、梁公侯莫陈芮、内史王谊等并在宪侧。畅固问不已。宪乃曰：「我天子太弟齐王也。」指陈王以下，并以名位告之。畅鞭马而去，宪即命旋军，而齐人遽追之，戈甲甚锐。宪与开府宇文忻各统精卒百骑为殿以拒之，斩其骁将贺兰豹子、山褥瑰等百余人，齐众乃退。宪渡汾而及高祖于玉壁。
高祖又令宪率兵六万，还援晋州。宪遂进军，营于涑水。齐主攻围晋州，昼夜不息。间谍还者，或云已陷。宪乃遣柱国越王盛、大将军尉迟迥、开府宇文神举等轻骑一万夜至晋州。宪进军据蒙坑，为其后援，知城未陷，乃归涑川。寻而高祖东辕，次于高显，宪率所部，先向晋州。明日，诸军总集，稍逼城下。齐人亦大出兵，阵于营南。高祖召宪驰往观之。宪返命曰：「是易与耳，请破之而后食。」帝悦曰：「如汝所言，吾无忧矣。」宪退，内史柳虬私谓宪曰：「贼亦不少，王安得轻之？」宪曰：「宪受委前锋，情兼家国，扫此逋寇，事等摧枯。商周之事，公所知也，贼兵虽众，其如我何。」既而诸军俱进，应时大溃。其夜，齐主遁走，宪轻骑追之。既及永安，高祖续至。齐人收其余众，复据高壁及洛女砦。高祖命宪攻洛女，破之。明日，与大军会于介休。
时齐主已走邺，留其从兄安德王延宗据并州。延宗因僭伪号，出兵拒战。高祖进围其城，宪攻其西面