胡先骕除精研现代植物分类与分布外，对古植物学的研究也有很深的造诣。1938年，他同美国古植物学家R．W．钱耐（Chaney）在山东共同研究中国山旺新生代第三纪中新世古植物化石时，证明距今1200万年前山东的植物同现代长江流域的植物有相似性。1940年，他们两人在《中国古生物志》中联名发表“中国山东中新世植物群”的长文和较多的精确图版，这不仅为中国古植物学的研究打下了基础，而且也开拓了中国古植物学研究的新领域。

　　发现水杉

　　在胡先骕刚继续主持所内工作不久，年底便收到郑万钧从中央大学寄来薛纪如从四川万县磨刀溪采到尚不知其为“水杉”的枝叶和球花、幼球果的标本，请予以复查鉴定。胡先骕根据标本反复研究，并核查文献，确定该标本与日本大阪大学古植物学家S．三木茂（Miki）博士于1941年根据日本的2种植物化石，在日本植物学杂志11卷第261页所发表的水杉属（Metasequoia）的形态相同，应同为一属植物。经由胡先骕和郑万钧共同深入研究后，最后命名为水杉（MetasequoiaglyptostroboidesHuetCheng）。由于水杉在分类系统上介于杉科和柏科之间，为两科联系之桥梁，故另新立水杉科（MetasequoiaceaeHuetCheng）以区别。首次正式把在四川万县所采集的标本命名为“水杉”。这一珍奇活化石植物的发现与正式命名，引起全世界植物学家的震惊，特别是引起古植物学家的重视。这是胡先骕融会古今植物研究的一个重要贡献。美国的古植物学家钱耐还专程来中国对水杉进行实地考察。此后，各国出版的高等植物学和古植物学专著，也都相继有了这一记叙。为了向全世界介绍中国这一珍奇树种的重大发现，1946年，他在《地质调查所汇报》中发表《记古新世期之一种水杉》论文，将水杉的化石种与最新发现之水杉进行了比较。1947年，在美国的《观察》杂志发表《美国西部世界爷与中国四川万县之水杉》（Se－quoidofwesternAmericaandmetasequoiaofWanhsien，Szech－wan）。1948年，又在《美国纽约植物园》园刊中发表《中国是怎样发现‘活化石’水杉的》（Howmetasequoia，the“livingfossil”，wasdiscoveredinchina）。同年，与郑万钧联合发表《水杉新科及生存之水杉新种》。