“妖贼扰乱，仆一门悉被驱逼，父祖诸叔，同罹祸难，犹复偷生天壤者，正以仇雠未复，亲老漂寄尔。今日见将军伐恶旌善，是有道之师，谨率老弱，归罪请命。”因流涕哽咽，三军为之感动。高祖甚奇之，谓曰：“君既是国家罪人，强雠又在乡里，唯当见随还京，可得无恙。”乃载以别船，遂尽室移京口，高祖分宅给焉。博览众书，留心文义，从高祖克京城，进平都邑。时年十八，身长七尺五寸。沈预虑林子为害，常被甲持戈。至是林子与兄田子还东报雠。五月夏节日至，预正大集会，子弟盈堂，林子兄弟挺身直入，斩预首，男女无长幼悉屠之，以预首祭父、祖墓。仍为本郡所命，毅又板为冠军参军，并不就。林子以家门荼蓼，无复仕心，高祖敦逼，至弥年不起。及高祖为扬州，辟为从事，谓曰：“卿何由遂得不仕。顷年相申，欲令万物见卿此心尔。”固辞不得已，然后就职，领建熙令，封资中县五等侯，时年二十一。
义熙五年，从伐鲜卑，行参镇军军事。大军于临朐交战，贼遣虎班突骑驰军后，林子率精勇东西奋击，皆大破之。慕容超退守广固，复与刘敬宣攻其西隅。广固既平，而卢循奄至。初，循之下也，广固未拔，循潜遣使结林子及宗人叔长。林子即密白高祖，叔长不以闻，反以循旨动林子。叔长素骁果，高祖以超未平，隐之，还至广固，乃诛叔长。谓林子曰：“昔魏武在官渡，汝、兗之士，多怀贰心，唯李通独断大义，古今一也。”循至蔡洲，贵游之徒，皆议还徙，唯林子请移家京邑，高祖怪而问之，对曰：“耿纯尽室从戎，李典举宗居魏。林子虽才非古人，实受恩深重。”高祖称善久之。
林子时领别军于石头，屡战摧寇。循每战无功，乃伪扬声当悉众于白石步上，而设伏于南岸，故大军初起白石，留林子与徐赤将断拒查浦。林子乃进计曰：“此言妖诈，未必有实，宜深为之防。”高祖曰：“石头城险，且淮栅甚固，留卿在后，足以守之。”大军既去，贼果上，赤特将击之。林子曰：“贼声往白石，而屡来挑战，其情状可知矣。贼养锐待期，而吾众不盈二旅，难以有功。今距守此险，足以自固。若贼伪计不立，大军寻反，君何患焉？”赤特曰：“今贼悉众向白石，留者必皆羸老，以锐卒击之，无不破也。”便鼓噪而出，贼伏兵齐发，赤特军果败，弃军奔北岸；林子率军收赤特散兵，进战，摧破之。徐道覆乃更上锐卒，沿塘数里。林子策之曰：“贼沿塘结阵，战者不过一队。今我据其津而厄其要，彼虽锐师数里，不敢过而东必也。”于是乃断塘而斗。久之，会硃龄石救至，与林子并势，贼乃散走。大军至自白石，杀赤特以殉，以林子参中军军事。
从征刘毅，转参太尉军事。十一年，复从讨司马休之。高祖每征讨，林子辄摧锋居前，虽有营部，至于宵夕，辄敕还内侍。贼党郭亮之招集蛮众，屯据武陵，武陵太守王镇恶出奔，林子率军讨之，斩亮之于七里涧，纳镇恶。武陵既平，复讨鲁轨于石城，轨弃众奔襄阳，复追蹑之。襄阳既定，权留守江陵。十二年，高祖领平北将军，林子以太尉参军，复参平北军事。其冬，高祖伐羌，复参征西军事，悉署三府中兵，加建武将军，统军为前锋，从汴入河。
时襄邑降人董神虎有义兵千余人，高祖欲绥怀初附，即板为太尉参军，加扬武将军，领兵从戎。林子率神虎攻仓垣，克之，神虎伐其功，径还襄邑。林子军次襄邑，即杀神虎而抚其众。时伪建威将军、河北太守薛帛先据解县，林子至，驰往袭之，帛弃军奔关中，林子收其兵粮。伪并州刺史、河东太守尹昭据蒲坂，林子于陕城与冠军檀道济同攻蒲坂，龙骧王镇恶攻潼关。姚泓闻大军至，遣伪东平公姚绍争据潼关。林子谓道济曰：“今蒲坂城坚池深，不可旬日而克，攻之则士卒伤，守之则引日久，不如弃之，还援潼关。且潼关天阻，所谓形胜之地，镇恶孤军，势危力屈。若使姚绍据之，则难图也。及其未至，当并力争之。若潼关事捷，尹昭可不战而服。”道济从之。既至，绍举关右之众，设重围围林子及道济、镇恶等。
时悬师深入，粮输艰远，三军疑阻，莫有固志。道济议欲渡河避其锋，或欲弃捐辎重，还赴高祖。林子按剑曰：“相公勤王，志清六合，许、洛已平，关右将定，事之济否，所系前锋。今舍已捷之形，弃垂成之业，大军尚远，贼众方盛，虽欲求还，岂可复得。下官受命前驱，誓在尽命，今日之事，自为将军办之。然二三君子，或同业艰难，或荷恩罔极，以此退挠，亦何以见相公旗鼓耶！”塞井焚舍，示无全志，率麾下数百人犯其西北。绍众小靡，乘其乱而薄之，绍乃大溃，俘虏以千数，悉获绍器械资实。时诸将破贼，皆多其首级，而林子献捷书至，每以实闻，高祖问其故，林子曰：“夫王者之师，本有征无战，岂可复增张虚获，以自夸诞。国渊以事实见赏，魏尚以盈级受罚，此亦前事之师表，后乘之良辙也。”高祖曰：“乃所望于卿也。”
初，绍退走，还保定城，留伪武卫将军姚鸾精兵守险。林子衔枚夜袭，即屠其城，劓鸾而坑其众。高祖赐书曰：“频再破贼，庆快无譬。既屡摧破，想不复久尔。”绍复遣抚军将军姚赞将兵屯河上，绝水道。