1973年夏天，开国少将郭林祥接任总后勤部政委。当时总后机关因前任问题分成两派，内部对立严重。有人劝他必须站队才能避免失误，郭林祥却以职责为先，强调自己代表的是机构而非某一派系。他以事实、政策和原则为准绳，摆脱派性影响，很快稳定了局面，恢复了工作秩序。

1975年8月，他调任新疆军区政委。1976年1月周恩来逝世后，上级曾下令不得公开悼念，郭林祥与司令员杨勇协商后，仍在军区礼堂举行了悼念活动，认为应当以情义回应总理对边疆的关怀。后来在批邓运动的风潮传到新疆时，他和杨勇采取稳妥做法：由军区党委集体讨论并由政治部负责人代为表态，以保护主要领导不被逼入绝路。事后有人指责政治部主任，他则挺身承担责任，维护了集体决策的正当性，因而被评价为处事老练、保全大局。

1979年初春，对越自卫反击战前夕，苏联的军事压力使北方局势紧张。有些地方决定让汉族干部家属撤离内地避难，个别自治区领导亦拟执行此类撤离。郭林祥断然反对，主张军队人员及其家属一律不得离去，认为此事关重大且会引发连锁反应。他及时向中央报告指出相关决定未经党委研究、亦未报中央批准。中央随后否决了撤离方案，撤换了相关错误决策的领导，派人调整了当地班子。 千亿球友会

1980年1月，郭林祥转任南京军区政委。面对浙江省军区长期存在的派系争斗和多人轮番出动工作组无效的顽疾，他以明确是非、严格政策为抓手，并争取华东老一辈将领粟裕的支持，迅速化解了僵局，恢复了正常的领导秩序。人们询问他的方法，他归结为两点：分清非此即彼的原则与严明的政策执行，加上关键人物的背书。

1985年中央决定精简军队一百万人员，但在执行中遇到阻力。一次与总政治部主任余秋里同行时，郭林祥建议不要只削减基层人员，而应通过合并大单位来实现裁军——也就是将若干军区合并重组。以南京和福州两军区为例，他提出合并后由现任司令员和政委分别担任新编制内的主官，并表示自己愿意退居次位以便推动方案落实。此计获杨尚昆肯定，随后南京与福州两军区确实按照合并思路整合，郭林祥改任军委纪委书记兼总政治部副主任，参与更高层面的纪检与政治工作。

1988年，他被授予上将军衔。晚年他总结自己的长寿之道为“五平之心”：平静、平常、平和、平衡和平等。2010年4月25日，郭林祥在北京去世，享年96岁。 千亿球友会