中国人对日本1931年9月侵占满洲的憎恨和屈辱感激发了一场持久的全国性抵制日货运动。学生和商人领导了抵制运动，但是广泛的参与激起全国人民的一阵新的爱国热潮。
这真是命运的嘲弄，童年时代在日本过得特别快乐的思成，成年生活的第一个严重打击也是来自日本。具有讽刺意味的是，正是来自可恨的日本军方的粗暴压力把他作为业务繁忙的建筑师和教师的大好事业的开端一下子打断，迫使他寻求类似的新职业。
离开沈阳时，思成已经接受了北京一个鲜为人知的小单位的职位，它是中国建筑研究会（后改为研究所），正式名称叫中国营造学社。
这是一个有钱人业余爱好的副产品。它的创始人是梁启超的同时代人朱启钤。朱启钤1872年生于贵州，是一位有能力的官吏，在其中年时曾在中国政府内担任过许多高级职务。1915年中华民国总统命令他作为内政部长修缮北京的皇宫，并恢复城门和一些古老的建筑。在监督这些工程的过程中，他同那些一辈子维修这些皇家建筑的工匠们关系密切。他从他们那里学到很多中国建筑方面的知识，等他到了退休年龄，他保持了他的兴趣，继续研究它的历史发展。一个偶然的机会他在南京江苏省宋代手稿图书馆看到一部珍贵的手稿《营造法式》，并把它印行了。思成非常珍视他父亲寄给他的这本书。书的作者，李诫，是当时的朝廷命官，负责监管政府建筑物的建造和修复。他和朱启钤一样，经常同工匠们商量，这些工匠具有按照官家指示锯削木材和建造房子的传统手艺，他们“向他解释了一切”。
发现李诫的书促使朱启钤建立中国营造学社。他聚集了一批老式的学者来从用文言文写成的古书中搜寻关于中国建筑的文献。这些学者没有一个具有任何中国建筑学的知识。朱启钤自己也明白，木匠们的行话必须“破译”。通常这些木匠都是不识字的，他们的建筑方法都是用师傅向徒弟口授的办法传下来的，而且还被当成行业的秘密。
显然朱启钤的研究所需要内行的领导。关键是要有一位具有中国典籍知识的现代建筑师。朱启钤是梁启超的同时代人，知道梁思成刚从国外学习建筑回来。朱启钤在1930年找他谈了话，建议他参加营造学社当研究部主任。
在1931年，显然日本军事占领满洲不会遭到抵抗，而他们迅速关闭大学已是不可避免，思成可以心安理得地接受朱启钤的建议。他自己对于中国建筑史研究的热情以及他对自己准备好接受这一任务的信心消除了可能残存的任何怀疑。他从一开始就明白，他由于提出别人忽略了的问题是在开创一个新的研究领域。中国建筑经历了哪些发展阶段，如何才能发现它们？在克雷的课程中，他知道了西方建筑的发展阶段。在绘图中他被要求掌握它们，而在年复一年地伏案绘图之后，他同徽因一起到全欧洲的蜜月旅行使他们两人都学会一眼就能辨识代表他们学过的不同时期的建筑物。
从他参加研究所的第一天起，梁思成就开始采取必要步骤来揭示中国建筑的进化过程。他知道困难在于找到保存比较完好的早期古建筑。而一个更加迫切的问题是尽可能找出那些过于古老以致不可能存留到二十世纪的更早的建筑物以建立一条基本线索。
朱启钤在天安门内故官废弃的一角建立了他的研究所总部。大概是他的长期官方关系帮他为他的项目争取到了这样的特权。思成在那里设置了他的办公室并立即开始了对《营造法式》的深入研究。在这一阶段。朱启钤对《营造法式》不同版本的知识对他必定是有用的。然而，朱启钤那一代学者十分习以为常的咬文嚼字，在梁思成这样的实践建筑师看来是不合用的。他需要知道李诫用古怪的技术名词称呼的木材的形状和性能。1925年版的插图被大家误解为对数百年来有些残缺的文字的解释。思成对《营造法式》的研究在此后的年代里时断时续，尽管他认为他从书中抽取的宝藏是“难以驳倒的”。
从思成开始他作为建筑史学家的新事业时起，他就决心要寻找和发现中国建筑的“文法”。通观中国历史，他认识到木框架是中国建筑的基本形式。长城和许多城墙中间填泥、面上贴砖是例外，砖或石砌成的筒状拱顶的坟墓也是如此。但是那些较少的用比较耐久的材料盖成独立式的纪念性建筑，比如宝塔，一般都是木框架建筑的直接模仿。思成急切地想了解中国木框架建筑的建造原则以及过去三千年来这种建筑方法的演变过程。
1932年，梁思成曾在哈佛研究过其图集的日本考古学家常盘和关野出版了相关的文字卷，报告了他们在中国农村的考古旅行。在此以前思成自己并没有游历乡村的经验，但是当他读到日本人关于发现山西北部大同的辽代寺庙中的雕塑以及关于河南北部嵩山上1125年造起（和《营造法式》差不多同时）的小小尼姑庵初祖庵的记述时，是十分兴奋的。法国汉学家伯希和当时刚刚出版了他在中国遥远的西北敦煌佛教洞穴里发现的壁画照片集。从研究这些书籍以及其他出版物中的建筑物图像（特别是日本那拉的唐代寺庙）中，梁思成就能够提出一些关于唐代建筑、地面设计、建筑物种类、寺庙设计图、屋顶以及建筑物的基地平台等的假设。
1932年三月出版的营造学社《汇刊》，登了思成的第一篇文章，专为搜集现有的关于唐代寺庙和房屋的文献资料。从文章一开始他就希望发现一座存留下来的唐代（公元618～907年）建造的木框架建筑物。他的文章标志着他已确定了朝向这个目标的行动路线。他很可能不会成功，因为时间已经过去了一千年，而木头是一种易损的材料。即使有宽广的、外伸的瓦顶作保护，木头的柱子和桁架也很容易遭受虫蛀、腐蚀和火灾。可能人类是最大的敌人。对佛教的宗教迫害周期性地消灭僧侣，摧毁人们在那里顶礼膜拜的巨大建筑物。
这种文献研究工作是有用的最初步骤，但它并未解开文本损毁的《营造法式》的奥秘。思成每天到故宫去上班，很快就找到了解决这个问题的实际好办法。就像李诫本人一样，他向在故宫中干活的工匠寻求帮助。为了更好地利用他们的营造知识，他熟读了1734年印行的清代建筑手册《工程做法则例》。尽管他认定它和较早的宋代手册不是一个档次，但它对他研究当时仍在北京占统治地位的清代皇家建筑帮助很大。他写道：
“有了《工程做法则例》做教科书，木匠们做教员，清代宫殿做教具，
对清代建筑的方法和规则的研究开始有了一个坚实的基础。
“这本书，1734年由工部印行，共有七十章。它们涉及建筑材料的计
算和‘大木作’的规则。对二十七种大小的房子的每一个建筑结构都不厌
其烦地提供了丈量方法。然而，对于确定每一种结构的方法和位置则很少
提到。如果没有工匠来指出和解释具体的例子，这本书是很难读的。对于
中国建筑中最独持的‘斗拱’的规则以及柱子的直径和高度、屋顶的弧度，
书中都有叙述。其他的章节则谈到‘小木作’，接榫、石作、砖作、瓦作、
颜色，等等。”
思成把这种对尺寸的“不厌其烦”的叙述和宋代的手册相对比，后者用一种非常合理的方式阐明了基本的原则，然后又提出具体衡量根据不同等级确定的各建筑部位的公式。
他幸运地找到了两位一辈子从事维修故宫里的清代建筑的老木匠。他和他们一起仔细检查了木构件之间的复杂关系。这可不仅仅是工匠们“指出和解释具体的例子”的问题，因为他不仅需要知道每一个构件的名称，而且还得知道它们的位置以及每一构件在整体建筑中的作用。就在这里，在故宫房子里，开始就近检查和准确测量所要求的攀登。