關於這個成語的最早記載在《南史·檀道濟傳》中。
南北朝時期，宋國有位大將名叫檀道濟，他曾跟隨宋武帝劉裕北伐，屢建戰功，官至太尉參軍。
宋文帝劉義隆即位後，檀道濟因為名聲太高，左右部將又都驍勇善戰，他的幾個兒子也都掌管兵權，所以皇帝很不放心。加上朝中一些大臣的挑撥，宋文帝遂起了除掉檀道濟的心思。
一次宋文帝患重病，彭城王劉義康借此擬了一道聖旨招檀道濟入京。檀道濟入京後住在建康（南京）的檀城，過了一段時間他看宋文帝病好後準備動身回去。
結果檀道濟剛上船時又被招回宮，並把他捕捉下獄，罪名是圖謀造反。接著他的兒子和部將也全部被殺戮。
檀道濟被扣上謀反的罪名關進大牢，「憤怒氣盛，目光如炬」。
臨刑前他又氣又恨，一口喝下一斛酒（一斛能裝五斗米），大吼道：「乃壞汝萬里長城。」
新聞延展
最早把軍隊比作長城王家敏讀者寫信告訴記者，最早將軍隊喻稱為長城的，便是檀道濟。
王家敏說不光《南史·檀道濟傳》中，記載了檀道濟目光如炬痛斥宋文帝自毀長城的故事，在《宋書》和《資治通鑑》中對這件事也都有記載。
在這裡，檀道濟痛斥宋文帝自毀長城，很顯然是指他自己瓦解自己的軍隊。「這裡把軍隊比作抵禦異族侵略的屏障——長城。」
「後來，北魏人聽說檀道濟等幾位能征善戰的名將都被殺，便無所畏懼地進攻宋國，直逼宋都建康。
此時宋文帝才後悔殺了檀道濟等幾位名將，意識到軍隊確實猶如長城般重要。」他登城嘆道：「假若檀道濟在何至於如此呀！」
FROM: http://baike.baidu.com/view/1338992.htm