自幼跟着当私塾教师的父亲念了四年书。后因家穷，他在一个高小伙房，边当杂工边读书。

1922年在亲友资助下考入广东省立第一甲种工业学校机械科。在这个被誉为“红色甲工”的学校里，周文雍读到了中共中央机关刊物《向导》以及《阶级争斗》等进步书籍和报刊，并于1923年加入了社会主义青年团，后任团支部书记和校学生会主席。

1923年秋，拥护孙中山的军队与反孙的陈炯明部队在距广州不远的石龙镇激战，周文雍等团员组成慰劳队去前线劳军时突遇机枪火力封锁，周文雍带领大家低身前进冲过铁桥，还缴获了一挺轻机枪。这次表现轰动一时，周文雍逐步成为广州重要的学生领袖。根据党组织安排，周文雍还在课余负责“手车夫工会”的工作。所谓“手车夫”相当于北方“拉车的”，靠着收入微薄、过着吃无定餐且居无定所的生活。周文雍与同志们多方奔走筹集资金，终于在东堤二马路侨高街为他们建起了一批简易房。手车夫们感到党领导的工会能办实事，于是积极参加工会活动。他们后来在广州起义时成为工人赤卫队的主力。

1925年夏，周文雍被反动校长开除，中共广东区委将他转为正式党员并安排担任区工委委员，翌年他又任共青团广州地委书记。

1927年4月，广东当局发动四一五反革命政变后，周文雍任中共广州地下市委的负责人，为掩护身份与陈铁军扮成假夫妻。