張榮森1932年參加紅軍,在紅四方面軍紅31軍93師當戰士。后被提拔為通信排排長、師司令部作戰參謀。1933年加入中國共產主義青年團,1936年轉入中國共產黨。
土地革命戰爭時期,張榮森歷任紅四方面軍紅31軍93師戰士、通信排排長、師司令部作戰參謀,參加了長征。1936年,張榮森進入紅軍大學學習。畢業后,在延安警備1旅任偵察科科長。
抗日戰爭時期,張榮森歷任綏德警備司令部參謀、科長、八路軍留守兵團警備第1旅司令部第2科科長、1團連長。
在抗日戰爭和解放戰爭中張榮森作戰英勇頑強,足智多謀,特別善于隨機應變,處置突發事件。
抗日戰爭結束后,張榮森到熱河北部地區,配合地方組織開展工作,先后擔任縣支隊隊長、軍分區參謀長。1947年初,為了消滅活動在熱北白俄匪幫,20分區組織了剿匪指揮部,張榮森擔任參謀長,20分區的部隊殲滅了這股土匪。
1948年春,熱北軍分區部隊、熱中軍分區一個團和起義的國民黨軍韓梅村部組為建冀察熱遼軍區獨立第6師,張榮森任參謀長。張榮森作戰有個特點,喜歡親臨前線指揮。攻打綏中縣城,他正組織炮兵支援步兵登城,突然發現敵人突圍,當時來不及調動其他部隊,張榮森將身邊的幾十人組織起來,他高舉手槍,大喝一聲,率領這幾十人向突圍之敵沖去,突圍之敵驚慌失措,紛紛投降。
在遼沈戰役中,獨6師奉命和友軍一道攻打綏中縣城。戰斗打得異常殘酷慘烈,當張榮森帶領增援的炮兵前去支援步兵強攻登城時,他突然發現,有一部分敵人想乘機突圍外逃。當時情況十分緊急,來不及和其他師領導互通情報,又沒有供調遣的預備隊,而自己又肩負增援的重任。于是他斷然決定,命令炮兵部隊繼續執行增援任務,把身邊僅有的師直屬隊的幾十人組織起來,前去阻擊妄圖突圍的敵人。他身先士卒,高舉手槍,大吼一聲,帶領直屬隊向突圍的敵人猛打過去。由于他們動作十分迅速,而且特別的勇猛,使倉皇突圍的敵人防不勝防,也不知到底又遇到多少阻擊的部隊,包括敵52師師長在內的敵人紛紛繳械投降。此役一舉消滅了妄圖突圍的400多名敵人。戰斗結束后,受到軍師首長的高度贊揚。
1948年11月,東北人民解放軍(東北野戰軍)第11縱隊31師奉命改編為中國人民解放軍第15兵團48軍142師(屬主力師),張榮森任142師副參謀長。
1949年3月11日,中國人民解放軍第15兵團48軍142師奉命改稱第四野戰軍第15兵團48軍142師,張榮森任142副參謀長。后升任142師參謀長。
新中國成立后,張榮森任第48軍144師師長。1954年,張榮森畢業于軍事學院。奉命專修俄語,后到蘇聯伏龍芝軍事學院學習五年。回國后,在高等軍事學院擔任班副主任。
1960年代初,東南沿海形勢緊張,張榮森出任第43軍127師(屬頭等主力師)師長。1964年5月至1968年7月,張榮森任第42軍軍長。1968年7月至1972年12月,張榮森任第43軍軍長。1971年至1978年,張榮森還兼任貴州省委書記,是第一書記藍亦農的主要助手。1972年12月起,張榮森任廣州軍區副參謀長、昆明軍區副司令員、南京高級陸軍學校校長。
1983年6月,張榮森離職休養。
1984年5月11日,張榮森因病在南京逝世。張榮森是我黨的優秀黨員,我軍的優秀指揮員。他參加革命五十多年來,始終忠于黨,忠于人民,忠于無產階級革命事業。在土地革命戰爭、抗日戰爭和解放戰爭時期,他英勇善戰,出色地完成了作戰任務。建國后,在擔任南京高級陸軍學校校長的四年中,他堅決執行黨的十一屆三中全會以來的路線、方針、政策,堅持四項基本原則。在建校初期的困難條件下,他不顧身患多種疾病,帶領全校教職員工,為完成中央軍委和總部賦予學校的任務而努力奮斗。他為中國人民的解放,為共產主義事業,獻出了畢生的精力。
(摘自《巴中晚報》)