1937年3月，郭瑞祥在战乱中光荣加入中国共产党。

从此之后，这位农民的儿子坚定了跟党走的信念意志，无论遇到何种困难和考验，从未动摇。

七七事变爆发后，郭瑞祥担任地下工作者，在复杂险恶的环境中，为我军收集了大量情报。他积极在群众中发展党员，扩大党的队伍，还在1939年组织带领40余人光荣参军。

东明县独立营原本是个地方武装，副营长和一连长都当过土匪，加入我军后，土匪习气一直也没有改掉，经常出现拉山头、搞小团体等情况。

“身为政治干部，我反复给他们做思想工作，耐心讲解我军的宗旨、党的纪律，讲明军队组织纪律的重要性。”郭瑞祥回忆。同时，他狠抓部队党组织的领导力、组织力和执行力，牢牢掌控住队伍，确保部队始终听党话、跟党走。

渡江战役后，郭瑞祥所在的二野五兵团西进贵州，开展剿匪战斗。1950年初，他负责对起义部队进行教育，宣传党的政策及我军的方针，在随时可能发生反叛暴动的情况下，完成了对官兵的改造，并很快把他们分编到了正规的解放军部队，充实了我军力量。