诸国市马。徵曰：“今立可汗未定，即诣诸国市马，彼必以为意在马，不在立可汗。可汗得立，必不怀恩。诸蕃闻之，以中国薄义重利，未必得马而先失义矣。魏文帝欲求市西域大珠，苏则以为惠及四海，则不求自至；求而得之，不足贵也。陛下可不畏苏则言乎！”帝遂止。
是后右仆射缺，欲用徵，徵让，得不拜。皇太子承乾与魏王泰交恶，帝曰：“当今忠謇贵重无逾徵，我遣傅皇太子，一天下之望，羽翼固矣。”即拜太子太师。徵以疾辞，诏答曰：“汉太子以四皓为助，我赖公，其义也。公虽卧，可拥全之。”
十七年，疾甚。徵家初无正寝，帝命辍小殿材为营构，五日毕，并赐素褥布被，以从其尚。令中郎将宿其第，动静辄以闻，药膳赐遗无算，中使者缀道。帝亲问疾，屏左右，语终日乃还。后复与太子臻至徵第，徵加朝服，拖带。帝悲懑，拊之流涕，问所欲。对曰：“嫠不恤纬，而忧宗周之亡！”帝将以衡山公主降其子叔玉。时主亦从，帝曰：“公强视新妇！”徵不能谢。是夕，帝梦徵若平生，及旦，薨。帝临哭，为之恸，罢朝五日。太子举哀西华堂。诏内外百官朝集使皆赴丧，赠司空、相州都督，谥曰文贞，给羽葆、鼓吹、班剑四十人，陪葬昭陵。将葬，其妻裴辞曰：“徵素俭约，今假一品礼，仪物褒大，非徵志。”见许，乃用素车，白布幨帷，无涂车、刍灵。帝登苑西楼，望哭尽哀。晋王奉诏致祭。帝作文于碑，遂书之。又赐家封户九百。
帝后临朝叹曰：“以铜为鉴，可正衣寇；以古为鉴，可知兴替；以人为鉴，可明得失。朕尝保此三鉴，内防己过。今魏徵逝，一鉴亡矣。朕比使人至其家，得书一纸，始半稿，其可识者曰：‘天下之事，有善有恶，任善人则国安，用恶人则国弊。公卿之内，情有爱憎，憎者惟见其恶，爱者止见其善。爱憎之间，所宜详慎。若爱而知其恶，憎而知其善，去邪勿疑，任贤勿猜，可以兴矣。’其大略如此。朕顾思之，恐不免斯过。公卿侍臣可书之于笏，知而必谏也。”
徵状貌不逾中人，有志胆，每犯颜进谏，虽逢帝甚怒，神色不徙，而天子亦为霁威。议者谓贲、育不能过。尝上冢还，奏曰：“向闻陛下有关南之行，既办而止，何也？”帝曰：“畏卿，遂停耳。”始，丧乱后，典章湮散，徵奏引诸儒校集秘书，国家图籍粲然完整。尝以《小戴礼》综汇不伦，更作《类礼》二十篇，数年而成。帝美其书，录寘内府。帝本以兵定天下，虽已治，不忘经略四夷也。故徵侍宴，奏《破阵武德舞》，则俯首不顾，至《庆善乐》，则谛玩无斁，举有所讽切如此。
徵亡，帝思不已，登凌烟阁观画像，赋诗悼痛，闻者媢之，毁短百为。徵尝荐杜正伦、侯君集才任宰相，及正伦以罪黜，君集坐逆诛，纤人遂指为阿党；又言徵尝录前后谏争语示史官褚遂良。帝滋不悦，乃停叔玉昏，而仆所为碑，顾其家衰矣。
辽东之役，高丽、靺鞨犯阵，李勣等力战破之。军还，怅然曰：“魏徵若在，吾有此行邪！”即召其家到行在，赐劳妻子，以少牢祠其墓，复立碑，恩礼加焉。
四子：叔玉、叔琬、叔璘、叔瑜。叔玉袭爵为光禄少卿。神龙初，以其子膺绍封。叔璘，礼部侍郎，武后时，为酷吏所杀。叔瑜，豫州刺史，善草隶，以笔意傅其子华及甥薛稷。世称善书者“前有虞、褚，后有薛、魏”。华为检校太子左庶子、武阳县男。开元中，寝堂火，子孙哭三日，诏百官赴吊。徵五世孙谟。
谟，字申之，擢进士第，同州刺史杨汝士辟为长春宫巡官。文宗读《贞观政要》，思徵贤，诏访其后，汝士荐为右拾遗。谟姿宇魁秀，帝异之。
邕管经略使董昌龄诬杀参军衡方厚，贬溆州司户，俄徙峡州刺史。谟谏曰：“王者赦有罪，唯故无赦。比昌龄专杀不辜，事迹暴章，家人衔冤，万里投诉，狱穷罪得，特被矜贷，中外以为屈法。今又授刺史，复使治人，紊宪章，乖至治，不见其可。”有诏改洪州别驾。
御史中丞李孝本，宗室子，坐李训事诛死，其二女没入宫。谟上言：“陛下即位，不悦声色，于今十年，未始采择。数月以来，稍意声伎，教坊阅选，百十未已，庄宅收市，沄沄有闻。今又取孝本女内之后宫，宗姓不育，宠幸为累，伤治道之本，速尘秽之嫌。谚曰：‘止寒莫若重裘，止谤莫若自修。’惟陛下崇千载之盛德，去一旦之玩好。”帝即出孝本女，诏曰：“乃祖在贞观时，指事直言，无所避，每览国史，朕与嘉之。谟为拾遗，屡有献纳。夫备洒埽于内，非曰声妓，恤宗女之幼，不为渔取，然疑似之间，不可户晓，谟辞深切，其惜我之失，不亦至乎？谟虽居位日浅，朕何爱一官，增直臣之气，其以谟为右补阙。”
先是，帝谓宰相曰：“太宗得徵，参裨阙失，朕今得谟，又能极谏，朕不敢仰希贞观，庶几处无过之地。”教坊有工善为新声者，诏授扬州司马，议者颇言司马品高，郎官、刺史迭处，不可以授贱工，帝意右之。宰相谕谏官勿复言，谟独固谏不可，工降润州司马。荆南监军吕令琛纵傔卒辱江陵令，观察使韦长避不发，移内枢密使言状。谟劾长任察廉，知监军侵屈官司，不以上闻，私白近臣