1923年，为寻求救国救民的道路，谢子长奔赴京津地区。 1925年，“五卅”运动爆发，全国範围掀起了蓬勃的反帝斗争高潮，受陕西旅京进步学生及共产党人影响，他认真阅读马列主义书刊，积极参加反帝斗争，于同年冬加入了中国共产党。后回到家乡，重任县民团团总，后该团编入陕西国民党第11旅，谢子长任12连连长。期间，他利用国共合作的有利形势，发展党组织，创办农民运动讲习所，培养了一批农民运动骨干。

大革命失败后，根据党的八大会议精神，谢子长参加并领导了陕西清涧起义和渭华起义，任西北工农革命军军事委员会委员兼工农革命军第3大队大队长，率部与国民党军激战多次。起义失败后，他秘密返回家乡，在极其艰苦危险的环境下，开展革命斗争，并坚定地表示：“革命就得不怕死，就得能吃苦。”

1929年初，谢子长奉命赴甘肃、宁夏一带从事兵运工作。1931年冬与刘志丹组建西北抗日反帝同盟军，次年2月部队改编为中国工农红军陕甘游击队，谢子长任总指挥。从此，陕甘边地区第一次打出了工农红军的旗帜，为后来陕甘宁边区红军的发展奠定了基础。

游击队成立后，首先袭击了旬邑县职田镇。驻旬邑的军阀部队随即调集千余人向红军游击队扑来。而对装备精良、来势兇猛的敌人，谢子长临危不惧，机智果断地命令部队撤出该镇，在离镇20余里的羊坡头设下埋伏，毙俘敌军300余人。接着，谢子长率队避开敌军主力，在照金、宜君、山河镇等地，与敌激战数次，连战皆捷。随后，游击队进入正宁县，开闢了陕甘历史上最早的一块革命根据地。

同年8月，谢子长率部南下耀县地区。9月，敌人兵分三路“进剿”，企图将红军游击队歼灭于照金地区，情况十分严重。谢子长与刘志丹决定採取避实击虚，以退为进的战术，指挥游击队在照金地区歼敌400余人，粉碎了敌人的企图。12月上旬，陕甘游击队改编为中国工农红军第26军。

1933年11月，谢子长任中共北方局和上海局驻西北军事特派员，指导陕北特委着手恢复第1支队，进一步发展陕北地区的武装斗争，迅速建立了安定、延川根据地。翌年7月，中国工农红军陕北游击队总指挥部成立，谢子长任总指挥，同时兼任陕甘边区红26军第42师政治委员。8月，谢子长率42师第3团及陕北第1、2、5支队，在景吴家塌及绥德张家圪台作战数次，连获胜利。26日晚再战河口，敌人凭藉有利地形和工事负责隅顽抗，红军进攻数次未克。在这关键时期，谢子长亲赴前沿阵地，重新布置火力，组织力量，予敌以重大杀伤。残敌逃往清涧县城。但在这次战斗中，谢子长不幸胸部中弹，身负重伤。为了稳定部队和民众的情绪，他传出命令，不準把他负伤的事情泄漏出去。战后，他又带伤率领红军北上，在安定县击溃敌人1个营，并收编了李丕成的民团。

1935年2月初，中国工农红军西北革命军事委员会成立，统一指挥陕北、陕甘的红26军、27军，选举谢子长为军委主席。不幸的是，由于他长期带伤转战，伤口严重恶化，1935年2月21日于安定县灯盏湾与世长辞，时年38岁。

谢子长一生驰骋疆场，为党和人民的事业做出了重要贡献。为了纪念他，中共西北工作委员会决定将谢子长家乡安定县改为子长县，毛泽东为谢子长题词：“民族英雄”“虽死犹生”，并亲笔为谢子长墓撰写碑文。