七七事变爆发的时候，蒋梦麟正在南方，旋赴庐山参加蒋介石召开的谈话会，为全面抗战建言献策。7月底，北平沦陷，北大也成为日本的军营。
根据国民政府的指示，相继沦陷的平津各高校陆续内迁，北大与清华、南开组建联合大学，先设长沙，后移昆明，是为抗战时期闻名国内外的西南联合大学。
西南联大由三个著名大学组建，蒋梦麟与清华校长梅贻琦、南开校长张伯苓为三常委，共同负责联大的日常事务，殚精竭力，克服重重困难，为民族复兴，为建立新的国家保留了难得的读书种子，谱写了中国近代教育史上最辉煌的一页。
由于西南联大的三个学校都是名校，有着各自不同的传统、优长之处及学风，以学校的历史及校长的资历而论，蒋梦麟应该居于领导地位。但他为了三校的团结，为了中华民族的整体利益，坚决主张不设校长，实行常委负责制，共同主持校务。
大政方针实行合议制，推请梅贻琦为主席，实际主持学校的一切日常行政事务，而蒋梦麟主要负责对外，校内的事务基本不管。蒋梦麟就此常说:在联大，我不管就是管。
北大、清华与南开名师云集，传统殊异，能否维持三校在整个抗战时期和睦相处，共同发展，实在是对三校同仁尤其是三校领导的重大考验。当时还有一个西北联合大学，也是从北京迁出去的几个大*联学**合起来的，但是它们内部经常有矛盾，闹别扭，终致不欢而散。
蒋梦麟说，西北联大好比三个人穿了两条裤子，互相牵扯，谁也走不动。反观西南联大，由于学校的行政班底以清华为主，北大、南开的行政人员只是配角，因此北大、清华的同仁对于联大课程的安排、经费的分配，以及学生的指导等也不免常有不同意见，有时也必须请校长们出来主持并力争。
每遇到这种情况，蒋梦麟总是耐心地劝大家容忍退让，以大局为重。三所著名的高等学府终于善始善终地合作至抗战胜利，顺利*员复**。亲历其境的联大教授叶公超感慨地说，在整个抗战期间，大后方的高等教育没有中断，联大能够善始善终，且能为中华民族继续培养人才，蒋梦麟竭尽全力维护联大团结的个人贡献是不可磨灭的。