兵不留在府城营盘也；有何可虑，并不那移尺寸之地！柴大纪被围日久，魏大斌又在围城之中；此时尚不亲往救援，岂徒以株守为事耶』？先是，上以常青、恒瑞俱未经军旅，恒瑞身系宗室，或存富贵习气，未能和协；令督臣李侍尧据实覆奏，并询以伊二人能否办理此事？侍尧奏称：『恒瑞深知以国事为重，与常青亦并无意见。惟不能亲援诸罗，未免为贼所缀。可否于武臣中如海兰察者，令其前来会办？即可及早蒇功』。时已命福康安为将军代常青，并授海兰察为参赞大臣，驰往台湾；恒瑞仍令参赞军务。是月，贵林等兵至英庄，遇贼阵亡；蔡攀龙力战抵诸罗，伤亡大半。恒瑞率兵往援，被贼拦截收军，改由海路前进；抵盐水港，逗遛不前。十月，奉旨：『解任来京』。嗣以抚谕附近民人造册投诚，上阅其奏，尚属奋勉；命与常青仍带兵协剿。恒瑞又奏贼占据情形；上以恒瑞恇怯，着福康安确切查参。是月，恒瑞率侍卫乌什哈达、粱朝桂等败贼于新店，收复鹿仔港。十一月，福康安等率师抵鹿仔港，恒瑞同海兰察屡败贼于兴化店、斗六门、大里杙等处，擒斩贼目刘怀清、林茂、林索等；林爽文遁去。十二月，进取集集铺，至生番隘口；谕曰：『官军屡战得胜，已成破竹之势。恒瑞人成事，并非自能奋勇前进。又福康安派镇将等攻剿，独不派柴大纪、蔡攀龙二人；而于恒瑞拥兵不救之罪，不但不加参劾，且屡次声叙战功，豫为地步，以示公正。传旨严饬；着恒瑞来京』。福康安旋奏：『恒瑞前在盐水港不能直达诸罗，咎无可辞。但打仗俱亲身前往，每日招抚村庄、巡查营卡，并未在营坐守。及臣等自诸罗进兵，恒瑞屡次向前杀贼，海兰察等皆所亲见；臣固不敢徇私袒庇，亦不敢因系亲谊，故为避嫌。应请留于军营效力赎罪』。谕内阁曰：『恒瑞观望迁移及张大贼势，妄言惑听，本应军前正法。朕以被时官军剿贼尚未得手，虑骇听闻，降旨令其回京。乃福康安曲为庇护，又屡于摺内声叙恒瑞带兵打仗；试思伊为满洲大臣，众皆打仗，独伊不打仗、逃往何处乎？又前因保宁补放伊犁将军，川省无熟悉番情之人，故将鄂辉调回成都，而以常青仍为福州将军。福康安具奏时，尚未知保宁调伊犁之信；何以欲将鄂辉仍留成都？不过因恒瑞本系福州将军，希冀仍留原任之意：岂能逃朕洞鉴乎？着传旨申饬，恒瑞仍遵前旨革职来京，交部治罪；是福康安爱之，实所以害之也』。五十三年，恒瑞同海兰察等缉获林爽文于老衢崎。二月，同总兵穆克登阿等追擒庄大田及其母庄黄氏等四十余名。奏入，得旨：『从优议叙』。三月，谕曰：『福康安前抵鹿仔港未及三月，即擒获首逆，南、北二路全境荡平。恒瑞从前妄请多兵，几至惑众误事；不可不治罪。此奏出自他人，必当按罪正法；姑援「议亲」之条，从轻革职，发往伊犁效力赎罪』。
十月，谕曰：『恒瑞在台湾获罪，究为公事起见，尚可宽宥。着加恩赏给副都统职衔，作为伊犁参赞大臣，帮同保宁办事』。五十四年，授正黄旗汉军都统、定边左副将军。五十五年正月，调镶黄旗汉军都统。八月，调正白旗汉军都统。六十年八月，补授绥远城将军。
九月，调补西安将军。嘉庆元年正月，湖北教匪滋事，奉旨令恒瑞带兵三千名会同湖广总督毕沅、湖北巡抚惠龄往剿。二月，恒瑞奏：『乌鲁木齐都统永保入京陛见，道出西安；请暂留驻，以资弹压』。得旨：『永保曾经军旅，着同恒瑞带兵剿贼』。三月，恒瑞与兴汉镇总兵文图等破贼于竹山，复其城；获贼首武明山、翁叔原等』。上嘉其功，交部议叙。永保至军营，合兵由房县进剿鬼榖子、黑虎沟，贼匪奔三里坪，留文图率兵围守；恒瑞同永保由■〈山巴〉峪、五虎垭进至七里湾，适总兵彭之年领兵至，贼惊走，渡二郎沟，窜入保康东北之白云寺大山。官兵由黄连垭进攻；四月，抵黑龙沟，又至东山长岭，贼奔喇吧洞。上以三里坪贼经文图剿净，而恒瑞等日久无功，饬之；恒瑞仍遵旨赴襄阳同河南巡抚景安等剿贼，留文图剿喇吧洞。五月，文图剿喇吧洞贼尽，以兵赴巴东。恒瑞所留西安官兵亦撤至襄阳，遂同头等侍卫明亮领兵由樊城进攻吕堰，与景安等会合进剿，屡败贼于岳家沟、刘家集，毙贼二千余人。奏入，上以贼首姚之富、刘之协并未拏获一人，不值加恩；恒瑞等务宜倍加奋勉，勿使逸入枣阳、随州等处。是时贼屯聚蒋家壋、曲家湾一带，官兵进至王家冈，离枣阳三十余里，与贼寨偪近；恒瑞同明亮等设伏纵击，大败之。六月，进攻蒋家壋、曲家湾，歼毙无算；枣阳围解。旋移营董家冈，贼伪呼投降，潜抄官兵后路；恒瑞等急以后兵为前队，翻身迎击，适总兵德龄兵至，击退之。贼匪窜回枣阳正东丫儿山，与张家躧贼连营十余里；官兵并力穷追一昼夜，破贼营十余处，斩三千余人、生擒百余人。得旨奖叙，赏金盒、大小荷包。七月，自随州梓山进剿至龙门山，屡克之。枣阳、随州、宜城境内贼平，蒙恩优奖。八月，自青狮岭赴钟祥，与永保夹击邓家冈贼；追至黑沙阿，大破之。余匪复奔双沟，连夜追击，焚其砖堡。九月，贼匪分为两路：一由枣阳东窜唐县、一由白河西窜吕堰；恒瑞同明亮等领兵西蹑。贼退踞叶家店，进兵围之，毙贼数百，生擒首