1926年1月,国民党第二次全国代表大会在广州召开,身在上海的陈果夫在蒋介石的支持下当选为中央监察委员,进入国民党中央决策机构。4月底,陈果夫离沪赴粤。不久,蒋介石在国民党二届二中全会上提出《整理党务案》,致使担任国民党中央部长的共产党员全部离职。蒋介石由此担任了组织部部长、军人部部长和国民革命军总司令等职务,随之蒋介石便任命陈果夫为组织部秘书。7月,蒋介石以国民革命军总司令名义誓师北伐,为了执行反共计划,与谭延闿商量,一致认为“果夫有办法”,于是让陈果夫代理了其组织部部长。
短短两个月间,蒋介石集党政军大权于一身,陈果夫也随之飞黄腾达一举成为党政要人。接收中央组织部后,陈果夫大肆排挤共产党员,安插自己的亲信,将组织部各部门负责人逐渐改为清一色的国民党,内部与各方接洽之事,完全由陈果夫本人负责,秘密工作由其秘书负责,不久便控制了组织部的领导权。由于陈果夫死心塌地助蒋反共,蒋介石的《整理党务案》得以顺利贯彻执行。陈果夫也有了自己的小班底,有了CC系的雏形。