除了放牛之外，楊秀山還要負責清理牛棚裏麵的牛糞，這是一個體力活，十幾歲的楊秀山由於營養不良，身材瘦小，幹起來格外吃力，為此沒少受地主的責打。1929年，紅軍來到了仙桃，他們打土豪分田地，窮苦百姓的生活有了很大改善。楊秀山家裏也分到了幾畝地，給地主家當了半輩子佃農的父親高興壞了，一連幾晚都睡不著覺。

為了保衛勝利果實，很多地方都成立了農民協會和兒童團。15歲的楊秀山加入了當地的兒童團，站崗、放哨和送情報，每樣工作幹得都十分出色，很快就當上了兒童團團長，一年後楊秀山正式加入了紅軍隊伍。別看年紀小，楊秀山打起仗來卻格外勇敢，每次戰鬥都衝鋒在前，多次在戰場上立功。1935年，楊秀山憑借戰功升任紅18團政委，此時他年僅21歲。