米軍機の大規模な空襲により各都市の被害は拡大の一途をたどり、本市もその戦禍を避けることはできなかった。昭和20(1945)年に入り、警戒警報及び空襲警報の発令が多くなり、3月2日ついに大型焼夷弾10数個が投下された。以後7月29日まで通算6回にわたって空襲が繰り返され、市の中心部が焦土と化した。
昭和20(1945)年3月2日、最初の空襲は大型焼夷弾10数個を投下されたが、人畜家屋に被害はなかった。同年6月26日の空襲では北部で死者5人、7月13日の空襲では北部から西部にわたって被害が及び、焼失100戸、半焼20戸、即死者20人、重傷者約100人の被害を出した。
7月24日には市街地の中心部に大型爆弾が投下され、このときは爆心地に近い旧岐阜県農業会安八支部の職員ら20人が犠牲となったほか100人が重傷を負い、全壊半壊家屋も100戸を超えた。なお、この爆弾は、長崎に投下された原子爆弾と同じ型の1万ポンドのTNT爆弾で、まさに原爆模擬爆弾といわれている。
一番大きな被害をもたらしたのは、昭和20(1945)年7月29日未明の空襲である。本市を形成する中心市街地の大半を焼失する大被害となり、商店街、娯楽街、住宅はもとより北西部の工場地帯、公共施設の多くも罹災し、本市は一夜のうちに廃墟と化した。投弾21,000発、不発698個、罹災戸数4,900戸(当時戸数11,300戸)、罹災人口約30,000人(当時全市人口56,470人)、死者50人、重軽傷者100余人にのぼり、その惨状は想像をはるかに絶するものであった。
また、市のシンボルであった国宝「大垣城」も類焼で焼失し、「お城も焼けたのか・・・」と市民の落胆は大きかった。
市街地の大半が焼け野原となり、市民の生活必需品は不足し、物価高のなかで食糧難、衣料難、住宅難の苦しい生活を強いられた。こうした中、市ではいちはやく国や県の援助を得ながら戦災復興事業を積極的に進め、被災家屋の復興や都市計画に基づく駅前通り などの高層防災建築を完成させ、近代都市づくりに努めた。
また、大垣城は市民の浄財で再建がなされたほか、市内の小中学校は他市に先駆けて鉄筋校舎が建築され、文教の町にふさわしい復興が進んだ。一方、戦時中は軍需生産体制下におかれていた市内の各工場も戦争が終わると間もなく、進駐軍用や、一般向けの製品作りに取り組んだ。特に繊維工業の復興は目覚しく、大垣市の戦後工業発展の原動力となった。
終戦後、戦災死没者の慰霊碑が笠木町地内護国霊苑内に建立され、毎年7月29日に戦災遺族会主催の追悼式が執り行われている。