1922年6月，孙中山与陈炯明决裂后，对军阀政治更为深恶痛绝。8月12日，他在由粤至沪的轮船上，对随行人员明确说：“以中国各省之土地与人民，皆比世界各小国为大而且多；故各省之自治，可不依附中央而有独立之能力。中国此时所最可虑者，乃在各省借名自治，实行割据，以启分裂之兆耳。故联省自治制之所以不适于今日之中国也。至言真正民治，则当实行分县自治。盖县之范围有限，凡关于其一乡一邑之利弊，其人民见闻较切，兴革必易，且其应享之权利，亦必能尽其监督与管理之责。”“至如今日之所称为联省自治者，如果成立，则其害上足以脱离中央而独立，下足以压抑人民而武断，适足为野心家假其名而行割据之实耳。吾之主张联省不如分县者以此。”他到上海后，也曾对中共领导人李大钊说：“我决不承认现在这样的督军割据的联省自治。”可见，随着形势的变化，孙中山的思想认识也在发生变化，他对联省自治的反对态度趋向坚定而公开。
1923年2月，孙中山重回广州，就任大元帅。其后，第一次国共合作成立。1924年1月，中国国民党第一次全国代表大会通过宣言，批评联省自治派之结果“不过分裂中国，使小军阀各占一省，自谋利益，以与挟持中央政府之大军阀相安于无事而已，何自治之足云！”宣言强调：“真正的自治，必待中国全体独立之后，始能有成。……各省真正自治之实现，必在全国国民革命胜利之后。”从此以后，孙中山完全抛弃了过去对联省自治的实用主义态度，而以革命建国为奋斗目标。