1946年12月3日，敵七十四師在正面排開(kāi)大量重炮，對(duì)解放軍陣地猛轟，又用飛機(jī)投擲高爆炸彈。隨后，坦克引導(dǎo)步兵向解放軍陣地發(fā)動(dòng)猛攻。經(jīng)過(guò)兩日激戰(zhàn)，第六師堅(jiān)守的第一線村莊先后陷落。12月5日夜，王必成發(fā)動(dòng)反擊，但被敵七十四師的重機(jī)槍擊退。反擊失利后，王必成迅速總結(jié)了經(jīng)驗(yàn)教訓(xùn)，決定以堅(jiān)守消耗敵軍。他將全師梯次展開(kāi)，構(gòu)筑了縱深的野戰(zhàn)工事，節(jié)節(jié)抗擊敵軍進(jìn)攻。在9天9夜的血戰(zhàn)中，第六師官兵始終將進(jìn)攻之?dāng)匙钃粼跐i水南面。然而，張靈甫進(jìn)攻漣水南面僅僅是佯攻，正當(dāng)?shù)诹鶐熢跐i水城南面苦戰(zhàn)之際，張靈甫親率主力繞道從西面直撲漣水。14日拂曉，敵七十四師主力在城西突然出現(xiàn)，第一道防線當(dāng)天就被突破。傍晚，第七十四師的兵鋒進(jìn)至廢黃河大堤。王必成急忙抽調(diào)一個(gè)旅返城。然而，張靈甫也集中重兵向第二道防線強(qiáng)攻，突破多處解放軍陣地。
15日上午，奉命支援的我第六師十六旅趕到，王必成親自趕赴城西前線，硬是把敵七十四師趕了下去。當(dāng)夜，譚震林緊急命令我六師十八旅也回援漣水城。
然而，張靈甫抓住王必成援軍未到的戰(zhàn)機(jī)，集中炮火向解放軍城西陣地猛烈轟擊，后以營(yíng)、團(tuán)為單位連續(xù)發(fā)起集團(tuán)沖鋒。
15日中午時(shí)分，敵七十四師從漣水西門、南門先后突進(jìn)城內(nèi)。經(jīng)受過(guò)嚴(yán)格巷戰(zhàn)訓(xùn)練的敵七十四師，以班排為單位，充分發(fā)揮火焰噴射器和火箭筒的威力，與解放軍進(jìn)行逐街逐屋的爭(zhēng)奪。在敵強(qiáng)我弱的形勢(shì)下，解放軍守城部隊(duì)在當(dāng)天下午先后撤退。我第六師主力撤出時(shí)，王必成被警衛(wèi)員和參謀人員強(qiáng)架著北去。
第二次漣水之戰(zhàn)，解放軍共斃傷敵軍8000余人，但自身也付出了重大代價(jià)，僅我第六師就有5000多名指戰(zhàn)員血灑疆場(chǎng)。
漣水失陷，陳毅盛怒之下要將王必成撤職查辦，但粟裕了解王必成，認(rèn)為他是一員不可多得的戰(zhàn)將，主張改為留職檢查。王必成對(duì)陳毅、粟裕說(shuō):“日后打敵七十四師，絕對(duì)不要忘了我王必成的六師！”粟裕當(dāng)即表態(tài):以后，凡我華東部隊(duì)組織殲滅敵七十四師的戰(zhàn)役，一定讓六師參加，一定讓王必成同志參加，并將此命令記錄存檔。
1947年春，山東、華中新四軍進(jìn)行統(tǒng)一整編，組成華東野戰(zhàn)軍，以陳毅為司令員兼政委，粟裕為副司令員，譚震林為副政委，王必成任第六縱隊(duì)司令員。2月，王必成率華野六縱參加萊蕪戰(zhàn)役，創(chuàng)造了一個(gè)縱隊(duì)在一次戰(zhàn)役中殲敵2.4萬(wàn)余名的輝煌戰(zhàn)績(jī)。5月，他又率部參加了著名的孟良崮戰(zhàn)役。結(jié)果，他“指揮所部勇登孟良崮峰頂，擊斃國(guó)民黨軍第七十四師師長(zhǎng)張靈甫”。
1949年2月，遵照中央軍委的統(tǒng)一命令，華東野戰(zhàn)軍正式改編為中國(guó)人民解放軍第三野戰(zhàn)軍，王必成部改編為第八兵團(tuán)(陳士矩任司令員)二十四軍，王必成任軍長(zhǎng)，后任第七兵團(tuán)兼浙江軍區(qū)副司令員、浙江軍區(qū)司令員。陳丕顯在談到王必成時(shí)曾說(shuō):“他是很能打仗的，而且善于打大仗，打硬仗，從不打‘滑頭仗’。他不愧為人民解放軍的一員虎將。”