1927年6月，在国民党中央委员会开封政治分会委员们的提议下，在河南省教育界人士的一致请求下，河南省政府主席冯玉祥委任徐谦、顾孟余、薛笃弼、凌勉之、李静禅等5人为“国立第五中山大学”筹委会委员。经过多次磋商，河南省政府决定将河南公立农业专门学校、中州大学（1922年11月，河南留学欧美预备学校改名为中州大学）、河南公立法政专门学校合并为国立第五中山大学（国立开封中山大学）。

1927年7月，国立第五中山大学宣告成立。后经河南省政府议会通过，将国立第五中山大学改为河南省立中山大学。学校设文科、理科、农科和法科四个科，先由邹秉文任农科主任，后郝象吾任农科主任。农科下设农艺系和森林系，学制4年，农艺系主任由郝象吾兼任，万晋任森林系主任。农科校址位于开封南关的繁塔寺二程夫子祠。前河南农业专门学校农场改为河南中山大学农场。