1927年4月19日，武漢國(guó)民zf在武昌舉行第二次北伐誓師大會(huì)，繼續(xù)進(jìn)行北伐。謝晉元隨軍到達(dá)南京，駐守京滬路東段。
8月25日夜，北風(fēng)呼號(hào)，濃霧彌漫。孫傳芳以三個(gè)師的主力6萬(wàn)余人，分三路，從望江亭、劃子口、大河口三處強(qiáng)渡長(zhǎng)江，向南京邊防區(qū)烏龍山，棲霞山及龍?zhí)兑粠нM(jìn)攻。第一軍所據(jù)守陣地先后失守，被逼向南京后撤。26日，孫軍占領(lǐng)龍?zhí)稏|站。在此危急之時(shí)，白崇禧電令駐京滬路東段的第一軍第十四師師長(zhǎng)衛(wèi)立煌率部向龍?zhí)斗垂�。同時(shí)，電令杭州的第一軍第二師劉峙回師助攻龍?zhí)�。與孫傳芳血戰(zhàn)七個(gè)晝夜，終于殲滅了孫軍5萬(wàn)余人。而謝晉元在此次反攻龍?zhí)兜膽?zhàn)役中，率領(lǐng)一連人，勇敢善戰(zhàn)，一馬當(dāng)先沖殺搏擊，拼死戰(zhàn)斗，激戰(zhàn)七晝夜，終于取得勝利，建立奇功，升為副營(yíng)長(zhǎng)。
閘北抗日
1930年任中尉連長(zhǎng)，在殲滅土匪劉桂堂的戰(zhàn)斗中英勇善戰(zhàn)，被調(diào)入第十九路軍蔡廷鍇部任少校營(yíng)長(zhǎng)、參謀等職。同年，在漢口和凌維誠(chéng)結(jié)婚。此后，隨軍進(jìn)駐上海閘北。所謂閘北，是上海水陸交通要地，是各路之總稱(chēng)，即淞滬路與京滬路相接處，而形成的一個(gè)三角地帶。此乃十九路軍之戰(zhàn)區(qū)中心，謝晉元率部就駐守在此要地，保衛(wèi)上海。
東三省淪陷以后，日本帝國(guó)主義加緊調(diào)動(dòng)海陸空主力進(jìn)攻上海。從1932年1月21日起，日本調(diào)動(dòng)航空母艦一艘，由旅順駛向上海吳淞港。接著，四艘驅(qū)逐艦滿(mǎn)載特別陸戰(zhàn)隊(duì)，開(kāi)進(jìn)黃浦江，一批批的陸戰(zhàn)隊(duì)在匯山碼頭登陸。在這上海形勢(shì)處于非常嚴(yán)峻之時(shí)，駐上海閘北的十九路軍早已作好了一切戰(zhàn)斗準(zhǔn)備。謝晉元所率的一營(yíng)人馬，亦早已嚴(yán)陣以待，時(shí)刻準(zhǔn)備著，只等一聲令下，為保衛(wèi)上海而英勇戰(zhàn)斗。
1月28日，日本海軍司令鹽澤指揮陸戰(zhàn)隊(duì)6000余人，向吳淞、江灣、閘北三路進(jìn)攻，并揚(yáng)言：“四小時(shí)內(nèi)占領(lǐng)上海，并解決十九路軍。”“一·二八事變“爆發(fā)了。
十九路軍奮起抵抗，在蔡廷鍇、蔣光鼐、陳銘樞的領(lǐng)導(dǎo)下，各路守軍奮起戰(zhàn)斗，阻擊日軍前進(jìn)。十九路軍全體官兵奮勇殺敵，全日巷戰(zhàn)。日軍數(shù)次沖鋒均被十九路軍擊退，使日軍不能前進(jìn)一步。十九路軍士氣高漲，日軍初戰(zhàn)失敗，死傷巨大，在敗退之時(shí)，到處縱火，地方上民眾受火劫之損失，實(shí)不堪言。
1月29日，十九路軍軍長(zhǎng)蔡廷鍇再次向全軍將領(lǐng)發(fā)出通電，號(hào)召全軍奮勇抗日。這一天，日軍出動(dòng)飛機(jī)4架，在閘北上空，向十九路軍陣地狂轟濫炸，投下80多顆炸彈，但并沒(méi)有嚇倒抗日將士。謝晉元在戰(zhàn)地日記中這樣寫(xiě)道：“日機(jī)轟炸，只是威嚇力比炮彈大些。飛機(jī)投彈，從空中擲下，不易瞄準(zhǔn)目標(biāo)，在戰(zhàn)壕里根本不怕。”戰(zhàn)士們便利用高射炮，在敵機(jī)投彈低飛時(shí)瞄準(zhǔn)射擊，29日就擊落日機(jī)4架。
十九路軍堅(jiān)決抗日，保衛(wèi)上海，得到了上海各界人士熱烈支援。宋慶齡、何香凝在前線(xiàn)發(fā)起救亡運(yùn)動(dòng)，號(hào)召各界民眾捐獻(xiàn)物資藥品支援抗日戰(zhàn)士，籌設(shè)幾十個(gè)傷兵醫(yī)院，趕制三萬(wàn)套棉服送給前方官兵，大大鼓舞了將士們的斗志。
英勇抗日一個(gè)多月，連續(xù)打退敵人的進(jìn)攻，打死打傷日軍1萬(wàn)多人，日軍慘敗。
1934年于廬山軍官訓(xùn)練團(tuán)第二期畢業(yè)。
淞滬抗戰(zhàn)
1936年初，日寇加緊侵華步伐，亡我之心，昭然若揭。當(dāng)時(shí)，謝晉元在國(guó)民革.命軍第八十八師262旅任旅部中校參謀主任，為準(zhǔn)備抗擊日本侵略，部隊(duì)從四川萬(wàn)縣調(diào)無(wú)錫一帶駐防。為了專(zhuān)心殺敵，謝晉元多次勸說(shuō)住在上海龍華鎮(zhèn)的妻子凌維誠(chéng)回廣東原籍，妻子同意后，又親自護(hù)送回鄉(xiāng)。在離廣東返回部隊(duì)前，對(duì)其妻凌維誠(chéng)說(shuō)：“半壁河山，日遭蠶食，亡國(guó)滅種之禍發(fā)之他人，操之在我。一不留心，子孫無(wú)遺類(lèi)矣。為國(guó)殺敵是革.命軍人之素志也，職責(zé)所在，為國(guó)當(dāng)不能顧家”。并說(shuō)：“我不是好兒子、好丈夫，但為國(guó)家存亡，奉養(yǎng)年老父母，撫育年幼子女之重?fù)?dān)，要由你承當(dāng)。此場(chǎng)戰(zhàn)爭(zhēng)將非常激烈，我們會(huì)有很大犧牲，也會(huì)有局部失利，但我國(guó)一定能勝利。當(dāng)最后勝利到來(lái)時(shí)，我將親自迎接你們母子返滬”。謝晉元返部隊(duì)后，曾擔(dān)任學(xué)生軍訓(xùn)大隊(duì)長(zhǎng)。以后又指揮所部嚴(yán)格進(jìn)行操練，以侵占上海的日海軍陸戰(zhàn)隊(duì)為假想敵，積極進(jìn)行偵察、演習(xí)等備戰(zhàn)活動(dòng)。“七·七”盧溝橋事變后，在滬日軍多次制造事端，不斷挑釁，并從本土調(diào)集兵艦增授，戰(zhàn)爭(zhēng)處于一觸即發(fā)狀態(tài)。1937年8月11日深夜，孫元良師長(zhǎng)命令262旅524團(tuán)從無(wú)錫誓師出發(fā)，開(kāi)赴上海，專(zhuān)列到真如站，部隊(duì)立即跑步進(jìn)入北站附近陣地。該旅523團(tuán)隨后趕到，進(jìn)駐寶山路迄八字橋一線(xiàn)。