公开资料显示，孙怀山今年65岁，是江苏省涟水县人，曾长期在共青团系统任职。1973年孙怀山从共青团江苏省金湖县工业系统团委书记、共青团金湖县委书记的职位踏入仕途，后进入共青团中央，从共青团中央办公厅秘书处干事、副处长、处长一路进步为共青团中央办公厅副主任、主任。
自1994年起，孙怀山调入全国政协机关，先后任行管局局长、机关事务管理局局长，主理后勤行政事务。1999年他升任全国政协常委兼副秘书长，2013年又升任常务副秘书长兼机关党组书记，跻身正部级，在全国政协“大管家”岗位上任职长达十多年。
值得注意的是，2015年，孙怀山由政协机关党组书记降为党组副书记，这较为罕见。直到2016年8月，孙怀山改任全国政协港澳台侨委员会主任。同时，他还是十八届中央委员。
担任全国政协港澳台侨委员会主任后，孙怀山照常出现在公开报道中，包括会见民革中央主席和常务副主席，陪同台湾民意代表交流参访团到贵州考察，出席京港两地青年创新创业合作专题活动等。
北京青年报记者发现，孙怀山在公开报道中的最后一次现身，是 2017年2月7日上午于金湖大佛寺开展调研活动。金湖大佛寺位于江苏省金湖县，他最早在这里参加工作。
