前面做了那麼多事，就是爲了財富的積累，但內部如果多出幾個碩鼠和蛀蟲，一切的財富都會被敗光了。國家如此，企業如此，家族也如此。
貪腐問題自古以來便隨着人的私心貪念的膨脹和社會風氣的惡化，越演越烈。即便是在儒家學說鼎盛、道德觀甚重的宋朝，貪腐問題也是異常嚴重。
宋朝是很重視反貪，趙翼雲：“宋以忠厚開國，凡罪罰悉從輕減，獨於贓吏最嚴。”王安石也說：“今朝廷之法所尤重者，獨貪吏耳。”行政上，宋設反貪局，時稱皇城司。神宗時，更是重祿重法，一邊高薪養廉，一邊重懲貪污。但是沒發現有什麼效果，北宋的貪污狀況可謂愈演愈烈，以至於時人李新說：“廉吏十一，貪吏十九，”而最清廉的宰相王安石也悲觀地認爲當時的清官“千百而無十一”。王安石說的不錯，整個宋朝除了他自己，還只有包拯、岳飛等寥寥數人算得上真正的清官，趙普、蔡京、秦檜、賈似道之類的大貪官前腐後繼。
而作爲宋朝一個縮影的盧家，面對着每年幾百萬貫的收入，貪污情況也是越演越烈，盧家內部早年曾經也有一個反內部貪污的長老會，但由於家族內部貪腐情況嚴重，所以如果對某人作出調查，有時會連調查員自己也被揪出來，因此它的效力實際上只有很少。而事實上，不少長老會成員亦因爲各種原因而被逼對貪污妥協，加入行賄和受賄的行列。而且由於歷任家主對貪污問題的不重視，導致這個長老會內部人員幾乎沒有真正德高望重的長老，只是一些在家族權力鬥爭失敗而來這裡養老的失敗者。所以這個長老會毫無權力威嚴，根本起不到應有的反貪作用。
因爲盧有德一黨的行爲，再加上宋代乃至後代越演越烈的貪污腐化之風，讓盧俊義不由得不大力反腐。他馬上就想起後世香港的成功經驗。爲了遏制家族生意上和其他經營方面的之風，盧俊義廢除了長老會制度，特請剛正不阿的師父周侗和三叔盧有財聯合家族內其他真正德高望重的長老們，和從近衛軍裡面選擇一些性格耿直的年輕人一起組成了類似後世香港廉政公署的家族反貪組織，也命名爲廉政公署（盧俊義想來想去，還是覺得廉政公署聽起來正氣、威風），這公署如同當年的香港廉政公署只對港督一人負責，它只對家主盧俊義一人負責，全面整治查處類似於盧有德之流的違反國法家規、貪污腐化的行爲。
三叔盧有財、師傅周侗以及其他長老們都辭去了相應的家族生意的掌控全力負責廉政公署事宜。三叔盧有財的都管之職有盧俊信來擔任，他的大帳房職務則有通曉一些財務知識的盧俊禮擔任。而周侗兼任的只是俊義武館名譽都教頭，不涉及經營利益這塊，所以不用辭，但其他長老還是需要辭去相應的生意職務，保持公正獨立的立場態度。周侗和盧有財之所以同意擔任公署的專員（盧有財擔任副專員）來推動公署的建立，原因這兩位老人實在是極端憤慨家族和國家的貪污狀況，聽到盧俊義闡述了廉政公署對日後大事和國家大勢的幫助，大爲動容，就毅然決然投入到這個出力不討好的事情上。
廉政公署人員的辦公經費是家族利潤的百分之五，足以支持廉政公署的調查工作，在廉政公署內部人員採用的是高薪養廉政策，所以一旦調查到某位家族高層人員，調查人員也不會輕易被賄賂。同時盧俊義並沒有將公署發展到日後的錦衣衛之類那麼恐怖，廉政公署擁有調查權，但並無逮捕權，這個權力盧俊義下放給他的特種兵部隊孤衛，這隻雖然十分年輕但足以承擔起抓捕任務的部隊對盧俊義是絕對的忠心耿耿。
對貪污行爲和受賄行賄行爲（家族生意大了，有些下屬和供應商會向中高層人員行賄）採取的是零容忍，哪怕就是一文錢也不行。如果真的有困難，比如老爸老媽得了重病什麼的，可以向廉政公署申請，得到驗證後家族將會進行無條件的全面幫助。
廉政公署成立時，族人本來對廉署沒有任何期望，因爲事關過去家族高層有關反貪污的行動都以失敗終結。但這次成立廉政公署，由於直接向家主負責，因此在行動上得到不少方便，以致很快就在家族內部建立聲譽及威信。
而對犯罪的家族成員則是採取勞動教養的手段，即便再大的罪，簡單的處死也是便宜了對方的，讓他在最勞累辛苦的礦場裡幹到老死，榨乾他最後一滴可以利用的價值來彌補他犯下的重罪。換言之，不設定死刑，而是會讓他勞改一百年兩百年。這種法律會從家族延伸到以後的山寨、以後的整個國家，除非確定此人會有人來搭救會給組織帶來危險那就迅速處死，否則一般都不動用死刑，而是用勞改至死來代替。
所以蔡慶、蔡福兩個有名的劊子手對盧俊義毫無用處，雖然同在大名府，盧俊義偶爾會去看看急先鋒索超，但從來不會去看這兩個劊子手。這兩個傢伙雖然對水滸傳上的盧俊義有恩，但現在的盧俊義並不認同這兩個專靠砍捆在樁子上的人的頭爲生的傢伙，他們還不如楊雄，至少人家有點武功呢。至於讓他們當牢頭，也不在盧俊義的考慮之中，日後的監獄必須時常調換獄卒，他不希望再出現平常監獄內的黑暗。
這個廉政公署模式會運用到日後的梁山以及統一的國家政策上，監察系統必須獨立於行政體系外，不能出現官大於法的情況。盧俊義崇尚於後世的三權分立，不過前階段也只能將三權最終歸於他一人，他相信他自己，日後的事情日後再行解決。