古時候，秦王帶領著大隊人馬去攻打蜀國，軍隊來到了蜀國的邊境，往遠處一看，不是一重重的大山，就是凹凸不平的山路，要想前進實在困難，而且也沒人知道怎樣的走法。
軍中有一個聰明的人，就想了一個法子來騙蜀國：他們用大石頭鑿成五隻大石牛，在石牛的後面故意放許多金子，告訴人家說這些牛的牛糞會變成金子。蜀王聽到這個消息，就命令很多年輕力壯的人，趕快開山鋪路，然後把五隻大石牛推回來。就在石牛一步步向回推的時候，秦國的軍隊也跟了上來，結果，石牛推回來了，蜀國也滅亡了。蜀王這才明白，自己貪了秦國這一點點金子，最後把國家亡了，實在不值得，但是後悔已經來不及了。
說明：
這句成語出自「新論的貪爰篇」。意思是得到一點好處，卻失去了很多的利益。
舉例：
1. 李太太花錢買了一筐蘋果，回家一看卻是爛蘋果，這真是貪小失大。
2. 小強在路邊撿了一個包裏，轟隆一聲炸傷了右手，媽媽說他貪小失大。
——謂貪圖小惠而失大利也。「呂氏春秋」：「此貪於小利而失大利者也。」
春秋時的蜀侯，不僅擁有廣大肥沃的土地，而且倉廩充實，美女如雲，可是他仍然並不以此感到滿足，相反，他卻希望有更多的美女和金錢。
當時秦國是蜀國的比鄰，秦惠王見蜀國如此富有，而蜀侯又是如此的昏庸糊塗，因此，他早就有這個念頭企圖將它併吞消滅。只為在蜀秦兩國的交界，被一片懸崖峭壁和險道所阻，大軍無法從那裡通過。秦惠王為了這個難題，曾一連好幾個夜晚沒有睡覺，都沒有想出一個良好的辦法出來。有一天，他聽人家說，蜀侯「得隴望蜀」，非常的貪得無饜。乃想出了一個極妙的計策——那就是針對蜀侯愛貪小便宜的性格，而予以毒攻毒。
於是乃命石匠多人，用一塊巨青石鑿成一隻大牛，披紅簪彩地放在通往蜀國的途中，暗中命人將許多碎金置放在石牛的身後，揚言石牛乃係金牛，專痾黃金，一天可痾千斤。等消息傳到蜀侯耳中，秦惠王便派使者去見蜀侯，說秦國預備將從神仙那兒得來的金牛獻給蜀國，希望蜀侯能夠予接納。
蜀侯一聽秦國有這樣的禮物送上門來，一時不禁大喜過望，樂不可支，連聲稱謝。可是蜀侯見使者去後，久久未見秦國將金牛送來，後來知道因為兩國邊境地方險阻難行，龐大的金牛無法從那裡通過。於是立刻派年富力強、壯健的近衛軍多人到那兒去剷高山，填深谷，盡可能在最短期間內開闢一條大路來。
不久，秦國果然踐約將金牛送到蜀國來了，可是緊接在金牛後面的，卻是秦國的大批軍隊。蜀侯終因「貪小利而失大利」了，國家被強秦所滅。而這也就是「貪小失大」這句成語的由來。