大革命失败后，共产党人并没有被国民党反动派的反革命气焰所吓倒，他们掩埋完同伴的尸体，擦干身上的血迹，爬起来又继续战斗。毛泽东后来在回顾党的历史时说：大革命失败，共产党“被人家一巴掌打在地上，像一篮鸡蛋一样摔在地上，摔烂很多，但没有都打烂，又捡起来，孵小鸡”。这时，一些原来的党外革命者，如彭德怀、徐特立、贺龙等，却坚定地加入到了共产党员的行列，广大革命群众又集合在党的旗帜之下。

1927年7月中旬，根据共产国际执行委员会的指示，中共中央进行改组，陈独秀离开中央领导岗位，由张国焘、李维汉、周恩来、李立三、张太雷5人组成中央临时常务委员会。中央临时常务委员会随即作出三项重要决定：将党领导和影响的部队向南昌集中，准备发动武装起义；组织工农运动基础较好的湖南、湖北、江西、广东4省农民发动秋收起义；召开中央紧急会议，讨论和决定大革命失败后的新方针。

1927年8月1日，周恩来、贺龙、叶挺、朱德、刘伯承等领导党掌握和影响的军队在南昌举行武装起义，打响了武装反抗国民党反动统治的第一枪，党领导的人民军队由此诞生，中国共产党走出了独立领导革命战争、建立人民军队和武装夺取政权之路。根据中共中央的计划，起义军占领南昌后南下广东，准备同广东东江地区的农民起义军会合，然后占领广州，进而夺取整个广东，并取得出海口以获取共产国际的援助，待机重新北伐。但起义军在广东潮州、汕头地区遭受重大失败，余下的部队一部分转移到广东海陆丰地区，同当地的农民起义军会合，大部分在朱德、陈毅的率领下转移到湘南地区。

8月7日，中共中央在汉口召开秘密会议，即“八七会议”。会议确定了土地革命和武装反抗国民党反动派的总方针，并选出了以瞿秋白为首的中共中央临时政治局。毛泽东在会上作了长篇发言，着重讲了三个问题：一是领导权问题；二是农民问题；三是军事问题。关于领导权问题，他形象地将国共两党的合作比喻为共同建造了一座房子。共产党虽然“像新娘子上花轿一样”扭扭捏捏、勉勉强强地搬进了房子，但是“始终无当此房子主人的决心”，即忽视了争取革命领导权。关于农民问题，他批评了忽视农民运动的偏向。关于军事问题，他说：“从前我们骂中山专做军事运动，我们则恰恰相反，不做军事运动专做民众运动。”“以后要非常注意军事。须知政权是由枪杆子中取得的。”这是中国共产党人在付出血的代价之后得出的正确结论。从此，武装斗争成为中国革命的主要方式。

中国共产党走上武装夺取政权之路，可以说是反动派逼迫的结果。共产党人是在战争中学习战争，逐渐掌握中国革命战争的规律，最终取得了革命的胜利。

中国共产党人刚开展武装斗争的时候，曾将夺取中心城市作为目标，这是可以理解的，因为中国共产党人开展武装斗争的时候，世界上还只有一个国家的无产阶级通过武装斗争取得了全国政权，那就是俄国，而十月革命就是先夺取城市然后扩展到农村。所以，南昌起义、广州起义都是以夺取城市为目标，毛泽东领导的秋收起义，最初也是打算夺取湖南的中心城市长沙。秋收起义的部队在向长沙进军时，一度遭到了严重的挫折。毛泽东善于从实践中总结经验教训，当机立断，决定放弃预定的计划，改向敌人统治力量比较薄弱的山区寻求立足点。在起义部队到达江西永新县的三湾村时，毛泽东在这里进行了著名的三湾改编，将党的支部建立在连上，班、排设党小组，营、团设党委，成立各级士兵委员会，实行民主管理，从而从组织上确立了党对军队的领导，这是建设无产阶级领导的新型人民军队的重要开端。随后，部队进入湘赣边界的井冈山地区，开创井冈山革命根据地，开始了农村包围城市道路的伟大探索。

立足农村搞革命，不但对于中国共产党人是新生事物，就是在各国无产阶级革命的实践中也未曾有过先例。因为秋收起义之后毛泽东没有按照预定的计划攻打长沙，同年11月，中共中央临时政治局作出决定：由于“在工农军所经区域以内没有执行屠杀土豪劣绅的策略”，而毛泽东作为八七会议后“中央派赴湖南改组省委执行中央秋暴政策的特派员，事实上为湖南省委的中心，湖南省委所作的错误毛同志应负严重的责任，应予开除中央临时政治局候补委员”。可见，探索出一条新的革命道路多么艰难。

1928年4月，朱德、陈毅领导的南昌起义部队和湘南起义的农军转移到井冈山地区，与毛泽东领导的工农革命军会师。随后，两军合编为工农革命军第四军。同年5月，中共中央决定各地工农革命军一律改称中国工农红军，工农革命军第四军改称为中国工农红军第四军，简称“红四军”，朱德任军长、毛泽东任党代表，著名的“朱毛红军”由此而来。

到1928年秋冬之际，井冈山的斗争已经坚持一年了。在这一年中，有成功也有失败，有经验也有教训，有必要对一年的革命实践做一点回顾总结。为此，毛泽东写作了《中国的红色政权为什么能够存在？》《井冈山的斗争》这两篇重要著作，提出了“工农武装割据”的思想，分析了中国的红色政权能够存在和发展的原因，回答了一些人提出的“红旗到底打得多久”的疑问。毛泽东强调：“边界的红旗子，业已打了一年，虽然一方面引起了湘鄂赣三省乃至全国豪绅阶级的痛恨，另一方面却渐渐引起了附近省份工农士兵群众的希望。”“并且边界红旗子始终不倒，不但表示了共产党的力量，而且表示了统治阶级的破产，在全国政治上有重大的意义。”在这两篇文章中，虽然还没有把农村作为革命的中心，但已经对工农武装割据、建立农村革命根据地的重要性作了充分的肯定。

在农村建立革命根据地，农民自然成为中国革命的主力军，红军中的党员也主要来自农民和其他小资产阶级，因此，如何保持党的无产阶级先锋队性质，如何把红军建设成为无产阶级领导的新型人民军队，成为一个亟待解决的重大问题。1929年12月28日至29日，红四军党的第九次代表大会在福建省上杭县古田召开，会议一致通过了毛泽东起草的8个决议，总称《中国共产党红军第四军第九次代表大会决议案》，即著名的“古田会议决议”。古田会议强调红军是一个执行革命的政治任务的武装集团，必须坚决贯彻中国共产党的纲领、路线、方针和政策。红军决不是单纯地打仗的，必须同时担负打仗、做群众工作和筹款三大任务；红军中必须健全各级党的组织，实行政治委员制度，反对以任何借口来削弱党对红军的领导；等等。古田会议决议总结了红四军成立以来在部队建设上的基本经验教训，确立了中国人民军队建设的基本原则，成功地解决在长期农村游击战争环境下，在党员和红军的来源大部分是农民的情况下如何建设一个无产阶级政党、如何保持党对人民军队绝对领导这样一个重大问题。

古田会议之后，毛泽东写作了《星星之火，可以燎原》一文，强调红军、游击队和红色区域的建立和发展，是半殖民地中国在无产阶级领导之下的农民斗争的最高形式，是促成中国革命高潮的最重要因素。以毛泽东为书记的中共红四军前敌委员会还明确提出了“农村工作是第一步，城市工作是第二步”的思想。这就标志着农村包围城市、武装夺取政权思想的初步形成。1930年5月，毛泽东在《反对本本主义》一文中又明确提出“没有调查，没有发言权”和“中国革命斗争的胜利要靠中国同志了解中国情况”两个重要的论断，深刻地揭示了马克思主义必须同中国实际相结合的极端重要性，标志着毛泽东思想的初步形成。

根据八七会议的精神，大革命失败后各地党组织领导了一系列的武装起义。这些起义爆发之初差不多都以夺取城市为目标，但是，敌强我弱的形势短期内不可能改变，而城市又是敌人统治的中心，因此，起义军多数未能实现夺取城市的目标，个别的武装起义虽然一度占领了城市但也无力坚守，只得放弃。为了保存革命力量，只能将起义军转入农村，在农村创建革命根据地，先在农村积聚力量，待有条件时再进攻城市，这实际上就是走农村包围城市的道路。当然，走上这条道路有一个从不自觉到自觉的过程。在井冈山革命根据地创立之后，党在全国各地相继建立了若干个农村革命根据地。其中比较大的有中央（由赣南、闽西两根据地组成）、湘鄂西、鄂豫皖、湘鄂赣、赣东北、左右江、东江、琼崖等根据地。此外，在川东、苏中、浙南、河北阜平等地，也曾建立过短期的苏维埃政权，成立过红军。

1928年6月18日至7月11日，中国共产党第六次全国代表大会在莫斯科召开。六大虽然强调了中国的半殖民地半封建社会性质，认为中国革命仍属于反帝反封建的资产阶级民主革命，但是没有认识到中国革命的长期性和复杂性，仍把城市工作放在中心地位，把民族资产阶级当作革命的敌人，对中间阶级的作用和反动派内部的矛盾缺乏正确的估计，使得大革命失败后党内存在的“城市中心论”、中间势力是最危险的敌人等错误认识并未纠正。

党的六大之后，“城市中心论”在党内占据了统治地位。1930年6月的中共中央政治局会议，当时主持中央工作的李立三对毛泽东作了点名批评，说“妨害红军发展的两个障碍，一是苏维埃区域的保守观念，一是红军狭隘的游击战略，最明显的是四军毛泽东同志，他有整个的路线，他的路线完全与中央不同”。“立三路线”统治党中央的时间虽然不长，只有三个月，但继之而来在党中央占统治地位的，是比李立三更“左”的王明“左”倾教条主义，而且时间长达四年之久，直到1935年1月的遵义会议召开。

经过第五次反“围剿”的失败和红军长征，全党对于“左”倾教条主义的错误有了清醒的认识，“城市中心论”在党内失去了市场，开始有了中国革命必须也只能走农村包围城市的自觉。全国抗战爆发前后，毛泽东在总结土地革命战争时期的经验，吸取抗日战争的新鲜经验的基础上，撰写了《中国革命战争的战略问题》《实践论》《矛盾论》《战争和战略问题》《中国革命和中国共产党》等一系列理论著作，形成了完整的农村包围城市道路理论。

毛泽东强调，中国是一个半殖民地半封建国家，同时又是一个政治、经济、文化各方面发展不平衡，半封建经济占优势而土地广大的国家，这就决定了中国革命现阶段的资产阶级民主革命性质，也决定了中国革命的主要方式是武装斗争。同时，由于资本主义的发展不充分，中国工人阶级人数少，占80％以上的人口是农民，农民就成为中国革命的主力军，在中国，只要一提是武装斗争，实质上即是农民战争，而城市是敌人统治的中心，农村则是敌人统治力量相对薄弱的环节，中国革命必须将重点放在农村，先在农村积聚力量。中国政治、经济、文化的不平衡和地域广大，又为在农村建立革命根据地提供了可能性。因此，农村包围城市、武装夺取政权就成为中国革命唯一正确的道路。