蒋介石第二次下野发生在1931年12月。此次下野一方面是由于蒋的误国政策所致，另一方面也是国民党内派系争斗的结果。
早在1931年7月23日，蒋介石在一次讲话中，首次提出了“攘外必先安内”的反动方针。由于蒋介石将此方针付诸实践，遂招致国内阶级、党派矛盾激化，综合国力下降，同时纵容了日本帝国主义对中国的侵略。正是在这一背景之下，日本帝国主义于1931年9月18日制造了入侵中国东北的事件。面对日寇对中国的步步入侵，蒋介石仍不放弃“攘外必先安内”的误国政策，并宣称对日作战“3月必亡”。蒋介石的倒行逆施，激起了全国人民的反对；同时，此一形势也为蒋介石的反对派所利用。
本来在中原大战结束后，蒋介石取得了军事上的绝对胜利，但他得意忘形，为了实现其“武力统一”的野心，一方面对中共苏区实行“全面清剿”，一方面提出召开国民会议的主张，企图通过这个会议，制定一部设置“大总统”的约法，并把他推上“大总统”的宝座。
当时政界要人吴稚晖、陈立夫、刘健群等对蒋的主张均表示支持。惟国民党中央常委会主席、立法院长胡汉民坚决反对。胡的理由是：国民会议的任务是统一全国国民的心志，以谋中国之统一与建设。它不是国民大会，因而不具有选举、罢免、创制、复决等四权。胡还认为，孙中山的建国大纲及第一次全国代表大会宣言中之对内政纲，较任何约法都完备，无需再作钦定式之约法。
由于胡汉民的主张成了蒋介石当选总统的绊脚石，迫使蒋千方百计地企图搬掉他。当合法手段达不到目的时，蒋便于1931年2月28日夜以非法手段扣押了胡汉民。
胡汉民被扣，引起社会轰动与反蒋派的激烈反弹。胡汉民派的中央委员纷纷到各地串联反蒋；孙科的再造派离宁去粤；古应芬、陈济棠等准备在广州举旗反蒋。蒋也准备应战，一时战云密布。
正当战端即开之际，日本帝国主义发动了入侵中国东北的“九一八”事变。国人纷纷要求宁穗双方息争对外。蒋介石被迫释放了胡汉民。10月27日，宁穗双方代表在上海召开和平会议，反蒋派仍以蒋介石下野与改组南京政府为和平解决的条件。
在全国人民抗日舆论与粤方的强大压力下，蒋介石于1931年12月15日辞去国民政府主席、三军总司令兼行政院长等职，再施以退为进之计。
蒋介石下野后，国民政府改为合议制，林森出任国民政府主席，孙科任行政院长，张继任立法院长。蒋虽下野，但事先预作布置，对孙科内阁取拆台政策。孙科上台本非众望所归，而是各派矛盾和斗争的产物，加之蒋下野后设置了重重障碍，使孙无力驾驭南京政府，上台后不到一个月就夭折了。蒋介石看到时机成熟，决定重新上台。他采取拉汪排胡的策略，逼走胡汉民，向汪表白“与诸同志久共患难，今身虽在野，犹愿与诸将士誓同生死，尽我天职”。同时宣称支持汪主政，他主军。
1932年3月6日，军事委员会恢复，蒋被推举为委员长。蒋介石以退为进之计再度得以实现。
通观蒋介石的两次下台又上台，可以看出他每次下台都是外界逼迫所致，但他耍尽权术，总是以自动引退的姿态出现，变被动为主动，达到一箭双雕的目的。蒋的下台，每次都是权宜之计，下台的同时预为上台铺路，还拆别人的台。
那么他的第三次下野是否也是如此呢？今天的退却能换回当年的荣耀吗？
回到溪口的当夜，蒋介石草草用过晚餐，便虎着脸一言不发回到房间。陪侍于侧的蒋经国忙闪身跟了进去。
“经国，”蒋介石爱怜地唤道，“不用管我，你慢慢吃，我已老迈，食少事烦。”
“父亲，”蒋经国躬身垂立于一旁，毕恭毕敬道，“孩儿见父亲胃口不佳，值此党国危难之际，亦不能分忧于万一，实在是问心有愧。”
“坐下吧，”蒋介石朝旁边的竹椅呶了呶嘴，欣慰中却不无愤懑，“这次我之下野，固不能说全无国际环境之影响，但其重要因素还是由于我们内在矛盾关系所致。”
“孩儿明白。”
“你明白就好。”蒋介石砸着满嘴的假牙，叹息道，“元旦时，我征求党内同志有关我下野的意见时，我就说过，我这次下野，不是因为‘共党’，而是因为本党中的某一派系。”
“孩儿以为除了父亲，党内还无人能收拾眼前残局。”蒋经国满脸虔诚地望着父亲。
“那你的看法呢？”蒋介石瞟一眼儿子，饶有兴趣地问道。
“孩儿对父亲引退后可能发生的情况，有一些肤浅的分析与判断。”蒋经国将有些冷僵的手往火炉前一伸，呼出一口热气道：“第一，匪军南下渡江攻京沪。其次，如果李宗仁一味妄求和平，则正中共匪下怀。目前，共军陈兵江北，迫李宗仁等组织联合政府，受匪操纵，并派兵进驻南京。共产党一旦用政治方法瓦解南京，必然各个宰割，不战而据全国。”
“有道理。”蒋介石脸上蓦然秋霜集结，点着头道，“李德邻（宗仁）一味妄求和平，实则丧权辱国。”
“父亲总揽全局，高瞻远瞩！”受到鼓励的蒋经国收回已烤热的双手，继续说道：“如果李宗仁当政，必然撤换大批军政要员，或由共匪加以收买，使彼等屈膝投降。”