中山舰事件后，蒋介石敏锐嗅觉到，苏俄人对国民党合作之愿望强于国民党与苏俄合作之愿望，为了寻求继续合作，苏俄人会做一次又一次妥协。

　　蒋介石与谭延闿、朱培德、宋子文等提出“整军肃党、准期北伐”的建议。张静江、吴稚晖、孙科等聚于广州，为蒋介石出谋划策，制订整理党务案的具体计划。邵元冲等西山会议派分子也纷纷云集广州四处活动，营造气氛。

　　鲍罗廷回到了广州，为了赢得蒋介石的信任和合作，对蒋进一步妥协，甚至要求共产党对蒋采取妥协退让政策。也正是此时，鲍罗廷发表了著名之说，“现在是共产党为国民党当苦力的时代。”要求共产党无计代价地为国民党作嫁衣裳。

　　早在一九二五年，由于国民党右派反共激烈，戴季陶主义横行，陈独秀认为共产党留在国民党内的政策只会限制共产党在领导群众方面的独立性。因此，陈独秀就在中共四届二次执行会议上提出，中国共产党应该与国民党党外合作，不应该党内合作，应该退出国民党。

　　当陈延年、周恩来相继送来中山舰事件的详细报告之后，中共中央和陈独秀一改原来和解立场，主张对国民党、蒋介石斗争。陈独秀认为凭空受反动派栽诬，不能再守沉默了，遂以个人名义向共产国际提出，退出国民党。

　　然而，国共合作政策是共产国际定的，莫说中共总书记，即使是全国代表大会也没有权力决定放弃国共合作。

　　在苏俄人看来，共产党要求退出国民党的情绪是一种极其有害的、错误的、投降主义的观点，是一种必须彻底批判的失败主义的思想。

　　鲍罗廷按照共产国际、苏俄政府确定的在组织上向国民党左派作出让步，重新安排人员以便保持统一战线的方针，与“左派”蒋介石会商国共关系问题。

　　在苏俄当局看来，能跟他们合作的都是左派，无论是真心还是假意，比如蒋同志、汪同志。

　　鲍罗廷在未征求中共中央总书记陈独秀意见的情况下，多次与蒋介石商谈整理党务的具体办法。蒋介石在与鲍罗廷会谈中提出限制共产党在国民党内活动的种种要求，鲍罗廷都一一答应。对此蒋介石极为满意，对人说：“当鲍罗廷与我会商这个办法时，对我的态度极为缓和，凡我所主张都作合理解决。我恪守国父遗训，不因联俄而对共党迁就和姑息，所以我们的协商能达成这八条的协定。”

　　张国焘、彭述之作为中共中央派往广州的代表，对蒋介石与鲍罗廷协商的限制共产党活动的整理党务方案也是一无所知。

　　在得到鲍罗廷支持下，国民党的《整理党务案》在五月中旬召开的二届二中全会上提出，规定：

　　加入中国国民党的共产党员在中国国民党中央、省、特别市党部中担任执行委员，其数额不得超过各该党部委员数额的三分之一；共产党员不得担任中国国民党中央各部部长；中国国民党员不得加入共产党；共产党须将加入中国国民党的共产党员名单交中国国民党中央主席保存；共产党对参加中国国民党的共产党员的指示，须事先提交国共两党联席会议通过方能下达等。

　　《整理党务案》在共产党一方来看，是国民党限制、压制共产党、夺取党权的一种举措；在国民党极右派来看，是“容共”转向“两党合作”，并不能满足他们将共产党扫地出门之目的。因此《整理党务案》一提出，亦遭到国民党极右派强烈反对。

　　中央派张国焘、彭述之来指导二中全会。在党团会上，讨论了接不接受整理党务案，彭述之引经据典地证明不能接受。然问他不接受怎么办，他一点办法也没有。

　　鲍罗廷极力劝说张国焘、彭述之接受该方案。

　　毛泽东力主顶住。

　　鲍罗廷吸取了“国际联络委员会”的教训，为了使该案在共产党内通过，于是采取干部签字的办法，即要在广州的高级干部，凡同鲍罗廷一样赞成接受蒋介石条件的都在一张纸上签名，签字的有瞿秋白、张国焘、陈延年、周恩来、李立三、赵世炎等人，唯有彭述之一个人不签字。

　　通过提案时，国民党妇女部长何香凝、海外部长彭泽民、监察委员柳亚子三人激烈反对，廖夫人顿足，柳亚子击掌，彭泽民痛哭。

　　柳亚子径直去找蒋介石，当面责问道：“你到底是总理叛徒？还是总理信徒？”蒋介石默不作声。

　　未等会议结束，柳亚子与蒋介石分道扬镳，拂袖南渡，返回上海。

　　对于文人，蒋介石是从不忌惮也从不放在眼里的，口头禅就是“穷酸秀才”以讥之。

　　作为诗人，十八年之后，柳亚子用一种文人非常巧妙的方式对蒋介石给予最致命一击。这一击就是，柳亚子在国民党《中央日报》发表《沁园春·次韵和毛主席咏雪之作》，从而引出毛泽东《沁园春·雪》，让重庆乃至全国人民知道王者是谁。

　　由此，共产党人谭平山辞组织部长、林伯渠辞农民部长、毛泽东辞代理宣传部部长。在蒋任军长的第一军中，退出国民党和第一师的有二百五十多人，同时，有三十九人退出共产党。

　　蒋先云入学成绩名列第一。从入学开始一直到毕业考试，蒋先云囊括了所有科目成绩的第一名，创造了黄埔军校史上一项后无来者的奇迹。在校期间，他还潜心钻研古今兵法，学术两科，冠于全校。在蒋先云宣传鼓动和思想灌输下，青军会会员达二万余人。蒋先云毕业后留校，担任蒋介石秘书，两次东征及平叛杨刘战役中，身先士卒，战功赫赫。蒋介石对他极为欣赏，对人夸赞道：“将来革命成功后解甲归田，黄埔军校这些龙虎之士只有蒋先云才能指挥。”《整理党务案》通过后，蒋介石以中将教育长的职务诱之脱离共产党。而具有双重党员身份的蒋先云却第一个公开声明脱离了国民党。

　　中山舰事件之后，李之龙被撤去一切原有职务，不久转任国民革命军总政治部新剧团主任。五月十八日，李之龙在《广州民国日报》刊登《李之龙启事》，其文曰：“兹为避开纠纷，使利工作起见，特郑重声明退出中国共产党及一切有关系的社会团体，以单纯的中国国民党党员资格，受吾师蒋介石先生指导，以谋三民主义之实现。耿耿此心，尤盼共产党同志予以原谅。”

　　与李之龙一样，与陈赓关系极好的老乡李默庵、宋希濂退出了中国共产党。在三十九位退出共产党员中，李默庵是第一位申请退党的。李默庵退党理由是共产党动辄强调流血牺牲，而他更感兴趣的是能光宗耀祖。宋希濂退党的理由是，认为蒋介石是革命领袖并代表正确的革命路线。

　　当初，陈赓与宋希濂、李默庵同入黄埔，而今他们站在不同队伍，更让他们想不到的是，他们将要在战场上成为对手，奋死拼杀。

　　因为反抗“黄埔军校学生不准跨党”的规定‌，共产党员赵尚志毅然决然地离开黄埔军校，背着行囊返回东北，由此开启了其波澜壮阔的抵抗军阀、日寇的革命生涯。

　　再说胡汉民到了莫斯科之后，言行上突然向左转，对苏俄不吝礼赞，得到了斯大林的亲切会见。胡汉民希望国民党加入第三国际，从而甩开共产党，直接与苏俄进行合作。然而，对于加入第三国际的请求，斯大林委婉拒绝，最终第三国际特殊接纳国民党为“同情党”。在胡汉民看来，苏俄对待国民党和共产党是有差异的。正当返程至海参崴时，由于发生了“中山舰事件”，苏俄方面故意刁难胡汉民，更增加了胡汉民的反感。

　　回到广州之后，胡汉民发现，短短数月，蒋介石已经掌控中枢。再见汪精卫夫妇时，发现汪精卫的脸瘦了，陈璧君的脸则大了，二者都是生气的结果。

　　汪精卫直感叹：“想不到，蒋介石才是厉害角色，将你我玩于股掌之中。”胡汉民大为不解地怒问道：“我党无人耶？”汪精卫又是叹道：“谢持、张继等在上海另立中央。然苏俄人支持蒋，就连张静江都坐着轮椅来粤坐镇广州支持蒋，我辈能何为？”一边的陈璧君抢着答道：“党内素多见风使舵者，如今蒋介石得了势，岂不倒向他！”

　　恰此间，国民党中央监察委员吴稚晖、李煜瀛等来访，约胡去南京参加会议，并出示“查办共产党案”。见在广州无所作为，胡汉民遂离开广州前往香港，随后又前往上海。

　　五月初，汪精卫亦黯然离开广州。

　　张静江代汪精卫担任中国国民党中央常务委员会主席，叶楚伧任中国国民党中央党部秘书长，顾孟余代理中央宣传部部长，邵元冲任中央青年部部长。蒋介石任中央组织部部长兼军人部部长，随后，又任中国国民党中央常务委员会主席和国民革命军总司令。

　　蒋系由此掌控了国民党党政军。

　　中共中央总书记陈独秀坚决反对《整理党务案》，主张中共党员退出国民党，独立发展自己的力量。共产国际和联共中央对中国共产党提出退出国民党的要求给予了严厉的批评。

　　六月，共产国际执行委员会派维经斯基作为共产国际远东局驻上海代表再度来华进入中共中央委员会，在维经斯基操纵下，七月十二日，中共中央在上海召开第三次扩大会议，会议被迫接受了共产国际提出的中国共产党留在国民党内的决定。

　　中共中央总书记陈独秀力争摆脱国民党控制的努力以失败而告终。