由于家境贫寒，刘尔崧十一岁才上学。这时，中国正被帝国主义者瓜分宰割，反动军阀连年混战，弄得百业凋零，民不聊生。刘尔崧耳闻目睹这一切，痛感非打倒帝国主义和封建军阀不可。入学不久，他就与四哥刘琴西等同学发动开展反封建的剪辫运动。当袁世凯称帝时，他与同学走上街头，向群众宣读《讨袁檄》。

1918年秋，刘尔崧小学毕业后，考入广东省立第一甲种工业学校。翌年，被选为学生会主席。课余时间，他喜读《新青年》等进步刊物，开始接受马克思主义影响。

1919年五四爱国运动爆发后，刘尔崧以满腔爱国热情，积极投入反帝反封建的斗争，成为广东青年革命运动的先驱。5月11日，刘尔崧和阮啸仙等发动校内师生到东园参加广州市十万群众的示威游行，响应五四爱国运动。参与成立广东中等以上学校学生联合会，刘尔崧为职员，继续领导五四爱国运动，并逐步发展为声势浩大的抵制日货行动。

1922年5月，社会主义青年团两广[i1] 区委员会成立，刘尔崧任执行委员。为了广泛团结广大青年参加反帝反封建军阀的斗争，刘尔崧参与组建了团的外围组织“新学生社”，发动广大青年学生参加革命。9月，刘尔崧在甲种工业学校毕业后，和阮啸仙、周其鉴一起参加中国劳动组合书记部广东分部工作，为了更好地发展工人运动，他们创办了“爱群通讯社”。同年冬，刘尔崧遵照党的指示，到顺德县开展工人运动。不久，他吸收了李明智等先进工人入党，并建立中共顺德支部。

1923年4月，刘尔崧发动和领导了大良镇茶楼工人罢工，取得胜利后，改组顺德县工会。

1923年秋，刘尔崧对油业工会进行了改组，被选为执行委员兼秘书，并兼任中共广东油业工会支部书记。

1924年1月，国民党一大在广州召开，实现国共合作。根据党的决定，刘尔崧以个人身份加入国民党，并任国民党中央工人部特派员。他大力协助廖仲恺部长开展工人运动。在他的领导下，广州地区的建筑、碾米、锦纶、绸缎、茶楼等工会及粤汉、广九、广三铁路工人都改组成为党领导下的红色工会。

1924年五一国际劳动节，刘尔崧以国民党中央工人部名义，主持召开了广州工人代表会。正式成立了全市工人的统一组织——广州工人代表会。刘尔崧当选为工代会执行委员会主席。

7月15日，刘尔崧遵照党的指示，发动沙面三千多洋务工人举行罢工，斗争坚持一个多月，取得胜利，成为“二七”惨案后中国工人运动由低潮转向高潮的起点。

10月，中共广州地委改组为中共广东区执行委员会，刘尔崧被选为区委委员。

1925年三四月间又被选为职工人运动委员会书记，并兼任共青团广州地委书记。

“广州工代会”成立后，刘尔崧根据中共两广区委的指示，建了中国第一支工人武装——“广州工团军”。参与平定商团，稳定了广东革命根据地。

1925年5月1日，第二次全国劳动大会在广州召开。刘尔崧参加了大会的中共党团委员会工作。大会成立全国工人阶级的统一组织——中华全国总工会。刘尔崧当选为执行委员。

上海“五卅”惨案发生后，中共广东区委决定举行省港大罢工。刘尔崧根据党的指示，于6月15日发动沙面工人罢工。19日，省港大罢工爆发后，他夜以继日地工作，发动广州的工人全力支援罢工斗争，为省港大罢工的胜利作出了贡献。

1925年11月，刘尔崧兼任国民党广东省党部执行委员、工人部长。

1926年4月1日工人代表大会在广州召开，选举刘尔崧为执行委员会主席。

北伐军出征时，刘尔崧协助陈延年、苏兆征等组织省港罢工工人、广州失业工人共三千余人组成运输队、卫生队随军北伐，支援北伐战争。

1927年四一二反革命政变爆发后，刘尔崧临危不惧，教育同志和妻子，坚持革命，不怕牺牲。4月13日晚，刘尔崧参加了广东区委召开的广州党团负责干部紧急会议。会上，刘尔崧说：“我们要加强团结群众，组织队伍，准备为保卫革命而战，为保卫工人阶级利益而战。”14日，刘尔崧和全市工会负责人开会。会上，他传达了区委的指示精神，号召全市工人百倍警惕，加强团结，准备战斗。他还具体布置了应变事宜。15日凌晨，敌人在全市戒严，疯狂地搜捕共产党员和工人领袖。刘尔崧正欲应国际职工代表团之约，前往东亚酒店会谈，反动军警已包围他的住宅，入屋搜捕。刘尔崧深知难以脱离虎口，昂然走出来，大声说：“我就是刘尔崧。”说完挺胸、昂首离开家门。反动派把他关在广州南石头监狱。敌人诱他供出其他党员、工会领袖名单和地址，答应给他以高官厚禄。他大声对敌人说：“我是共产党员，你们休想从我嘴里得到任何东西。”敌人对他施以酷刑，他仍然不吐一字。表现了一个共产党员的高风亮节。4月19日，被秘密地杀害于白鹅潭。

1928年11月，中共广东省第二次扩大会议决议特别指出：“刘尔崧等同志的牺牲是中国革命的很大损失，他们都是全国的伟大的革命领袖，他们为了中国无产阶级与贫苦工农的解放而流血。”这是党和人民对刘尔崧革命的一生的高度评价。