陳遵是漢朝杜陵人，性情豪爽，他在哀帝末年時，做了京兆尹的官。當時官府中的官吏，都很儉僕，只有陳遵衣車華麗，每日出去飲酒，總是喝了酩酊大醉才回來。對于公事，時時荒廢，常被科罰。小吏們去告訴他，也根本不放在心上，反叫小吏注意他被罰滿一百次后，再來告訴他好了。
后來他因勦匪有功，升為嘉威侯，各地官吏，四方豪傑，都仰慕他的威名，特地去拜訪他。陳遵喜歡喝酒，每次大宴會的時候，等到客人到齊后，往往把大門關起來起來把客人們馬車上的鍵頭(古稱轄)投到井里去，即使客人有要緊的事，也不讓他回去。曾經有一個刺史，為了公事去見他，也被他留住喝酒，不放他回去，那位刺史因還有要事辦理，心理非常著急，結果由陳遵的母親從后門把他放出去。