陳國忠（任達華飾）是一個事業走到低潮的資深警探，與當地警察都忌憚三分的黑幫老大王寶（洪金寶飾）有多年恩怨。陳國忠即將退休，所以他一直的願望就是退休之前想要把王寶緝拿歸案，這樣王寶的下半生就在監獄中渡過。陳國忠和王寶鬥了多年卻苦於一直找不到有利的證據。終於有一次，一位證人要出庭指正王寶的罪行，陳國忠馬上抓住這個機會，怕證人一家遭到傷害，所以和自己的小組開車接送他們出庭作證，但很可惜路上遭遇殺手阿杰（吳京飾）的殺害，除了證人的女兒，證人一家無一倖免。王寶出庭後，因爲證據不足，所以被判無罪釋放。那次撞車事件後，陳國忠後腦留下了傷痕，經醫生檢查，患上了晚期的腦瘤，陳國忠並沒有放棄，決心要抓捕王寶，卻因爲自己年齡與身體的問題而不得不能面臨退休問題。陳國忠見證人女兒可憐，因撞車事件造成失憶，加上自己一直以來無妻無子，在證人女兒康復後，便決定收養這個這個女兒爲乾女兒，想一生一世照顧她。4年後，警司見陳國忠即將退休，所以他便讓警隊便找來了性格桀驁不馴的曾經一拳把一個疑犯打成白癡的馬軍（甄子丹飾）接替他的職位。當馬軍加入了重案組後，便發現該小組一直和王寶暗鬥，什麼事情都不會通知他不把他當做自己人，陳國忠決定讓自己的一個手下加入王寶的組織臥底，終於在臥底的幫助下，陳國忠爲首的小組成功破獲一起販毒案，小組其他三個成員阿樂，華哥等人爲了照顧陳國忠乾女兒，所以私自藏住王寶的錢，沒有告知陳國忠。
陳國忠小組接到一個案子，一個叢林中發現男屍，遂小組前去查看，不料一經發現，原來是自己之前安排在王寶內部的臥底，被發現後，慘死荒野。陳國忠悲痛萬分，認定是王寶所爲，派人拘捕他。可是由於無證據。爲了令王寶入罪，陳國忠決定製造假證據。整個重案組都知悉這件事，除了剛剛來到的馬軍一人不瞭解內情。然而，當證據神祕消失時，馬軍發覺自己已被捲入這場陳國忠與王寶之間的對決之中。陳國忠小組的華哥意外發現一個傻子拍下了王寶殺死臥底成員的錄像證據，經小組祕密研究後，決定先幹掉那個最後開槍殺死臥底的王寶手下，馬軍見事不尋常，所以暗中跟着他們，最終馬軍還是未能及時趕到加以阻止，在殺手被他們殺死之後，馬軍認爲他們太過毒辣，所以決定教訓他們一頓評理，最終陳國忠一番肺腑之言下，馬軍決定和他們合作，不張揚事情。
源於陳國忠小組一直和王寶作對，加上剛出生的兒子滿月當天被拘捕入獄，父親節那天，王寶決定打電話讓手下殺手阿杰出動，在陳國忠三個成員出警局後，一一將他們殘忍殺死。馬軍未能及時趕到救人，所以三個人全部一一喪命，最終在陳國忠手下華哥的死前知道了他們私自藏王寶的錢就是爲了幫陳國忠撫養女兒時，馬軍內心再爲所動，最終決定和陳國忠把錢還給王寶。因證據不足，王寶再次被釋放，他打電話給陳國忠讓他交出錢，這樣事情就算了，不在追究，陳國忠沒有等馬軍回來就私自拿一包假鈔前去王寶的俱樂部，想來個同歸於盡，最終未果，被制服。馬軍知道後，決定拿着錢前去還給王寶，和王寶來個一對一的了斷......
