自觉，命必大等极陈当否。退而条陈：「陛下练兵以图恢复而将数易，是用将之道未至；择人以守郡国而守数易，是责实之方未尽。诸州长吏，倏来忽去，婺州四年易守者五，平江四年易守者四，甚至秀州一年而四易守，吏奸何由可察，民瘼何由可苏！」上善其言，为革二弊。江、湖旱，请捐南库钱二十万代民输，上嘉之。
兼侍讲，兼中书舍人。未几，辞直学士院，从之。张说再除签书枢密院，给事中莫济封还录黄，必大奏曰：「昨举朝以为不可，陛下亦自知其误而止之矣。曾未周岁，此命复出。贵戚预政，公私两失，臣不敢具草。」上批：「王严疾速撰入。济、必大予宫观，日下出国门。」说露章荐济、必大，于是济除温州，必大除建宁府。济被命即出，必大至丰城称疾而归，济闻之大悔。必大三请祠，以此名益重。
久之，除敷文阁待制兼侍读、兼权兵部侍郎、兼直学士院。上劳之曰：「卿不迎合，无附丽，朕所倚重。」除兵部侍郎，寻兼太子詹事。奏言：「太宗储才为真宗、仁宗之用，仁宗储才为治平、元祐之用。自章、蔡沮士气，卒致裔夷之祸。秦桧忌刻，逐人才，流弊至今。愿陛下储才于闲暇之日。」
上日御球场，必大曰：「固知陛下不忘阅武，然太祖二百年天下，属在圣躬，愿自爱。」上改容曰：「卿言甚忠，得非虞衔橛之变乎？正以仇耻未雪，不欲自逸尔。」升兼侍读，改吏部侍郎，除翰林学士。
久雨，奏请减后宫给使，宽浙郡积逋，命省部议优恤。内直宣引，论：「金星近前星，武士击球，太子亦与，臣甚危之。」上俾语太子，必大曰：「太子人子也，陛下命以驱驰，臣安敢劝以违命，陛下勿命之可也。」
乞归，弗许。上欲召人与之分职，因问：「吕祖谦能文否？」对曰：「祖谦涵养久，知典故，不但文字之工。」除礼部尚书兼翰林学士，进吏部兼承旨。诏礼官议明堂典礼，必大定圜丘合宫互举之议。被旨撰《选德殿记》及《皇朝文鉴序》。必大在翰苑几六年，制命温雅，周尽事情，为一时词臣之冠。或言其再入也，实曾觌所荐，而必大不知。
除参知政事，上曰：「执政于宰相，固当和而不同。前此宰相议事，执政更无语，何也？」必大曰：「大臣自应互相可否。自秦桧当国，执政不敢措一辞，后遂以为当然。陛下虚心无我，大臣乃欲自是乎？惟小事不敢有隐，则大事何由蔽欺。」上深然之。久旱，手诏求言。宰相谓此诏一下，州郡皆乞振济，何以应之，约必大同奏。必大曰：「上欲通下情，而吾侪阻隔之，何以塞公论。」
有介椒房之援求为郎者，上俾谕给舍缴驳，必大曰：「台谏、给舍与三省相维持，岂可谕意？不从失体，从则坏法。命下之日，臣等自当执奏。」上喜曰：「肯如此任怨耶？」必大曰：「当予而不予则有怨，不当予而不予，何怨之有！」上曰：「此任责，非任怨也。」除知枢密院。上曰：「每见宰相不能处之事，卿以数语决之，三省本未可辍卿也。」
山阳旧屯军八千，雷世方乞止差镇江一军五千，必大曰：「山阳控扼清河口，若今减而后增，必致敌疑。扬州武锋军本屯山阳者，不若岁拨三千，与镇江五千同戍。」郭杲请移荆南军万二千永屯襄阳，必大言：「襄阳固要地，江陵亦江北喉襟。」于是留二千人。上谕以「金既还上京，且分诸子出镇，将若何？」必大言：「敌恫疑虚喝，正恐我先动。当镇之以静，惟边将不可不精择。」
拜枢密使。上曰：「若有边事，宣抚使惟卿可，他人不能也。」上诸军升差籍，时点召一二察能否，主帅悚激，无敢容私。创诸军点试法，其在外解发而亲阅之。池州李忠孝自言正将二人不能开弓，乞罢军。上曰：「此枢使措置之效也。」金州谋帅，必大曰：「与其私举，不若明扬。」令侍从、管军荐举。或传大石林牙将加兵于金，忽鲁大王分据上京，边臣结约夏国。必大皆屏不省，劝上持重，勿轻动。既而所传果妄。上曰：「卿真有先见之明。」
淳熙十四年二月，拜右丞相。首奏：「今内外晏然，殆将二纪，此正可惧之时，当思经远之计，不可纷更欲速。」秀州乞减大军总制钱二万，吏请勘当，必大曰：「此岂勘当时耶？」立蠲之。封事多言大臣同异，必大曰：「各尽所见，归于一是，岂可尚同？陛下复祖宗旧制，命三省覆奏而后行，正欲上下相维，非止奉行文书也。」
高宗升遐，议用显仁例，遣三使诣金。必大谓：「今昔事殊，不当畏敌曲徇。」止之。贺正使至，或请权易淡黄袍御殿受书，必大执不可，遂为缟素服，就帷幄引见。十五年，思陵发引，援熙陵吕端故事，请行，乃摄太傅，为山陵使。明堂加恩，封济国公。
十一月，留身乞去，上奖劳再三。忽宣谕：「比年病倦，欲传位太子，须卿且留。」必大言：「圣体康宁，止因孝思稍过，何遽至倦勤。」上曰：「礼莫大于事宗庙，而孟飨多以病分诣；孝莫重于执丧，而不得自至德寿宫。欲不退休，得乎？朕方以此委卿。」必大泣而退。十二月壬申，密赐绍兴传位亲札。辛