在日本留学期间，正是同盟会大发展时期，民主革命思想广为传播。刘伯垂结识孙中山后，加入同盟会。1911年辛亥革命爆发后，刘伯垂学成回国当律师。1918年前后，他赴广州，出任广东军政府高等审判厅厅长。

　　法科出身的刘伯垂重视法律和民权，尊崇社会发展规律。他认为“合法者、合乎进发行程者、趋重民权者为善。”

　　当“恶紫”情绪高涨时，刘伯垂会拂袖而去，另辟他路。

　　他对广东军政府的不满发生在1919年。那年8月7日，孙中山致电广州国会参众两院，宣布正式辞去政务总裁一职，声明今后对军政府之行动概不负责。刘伯垂紧随其后，辞去官职，与旅粤同志自费办起了《惟民》周刊。

　　尽管在行动上与孙中山保持一致，但刘伯垂对孙中山的某些策略并不认同。

　　在《惟民》周刊的《发刊旨趣书》中，刘伯垂写道：依赖某方帝国主义和军阀势力攻打另一方，“卒皆特种主义之成功，而非惟民主义之收效。”

　　他还强调，思想守旧与依赖某方势力的观点极为危险。“此二念不去，未有能自觉者也。不自觉，宁自动。不自动，宁自决于德谟克拉西（指民主）”。

　　此时，刘伯垂开始关注无政府主义和布尔什维克主义，将之视为“现代专制与军国主义之结束。”

　　他疾呼，当今之世，凡是想保持国家之独立民主，“莫不亟之于解放政策。”

　　武汉小组发起人

　　思想转变后，刘伯垂开始行动。

　　1920年夏秋，他奔赴上海。这次，刘伯垂没去找当时在沪接触苏俄人士的孙中山，而是直接找到了在日留学时的文字学老师陈独秀。

　　多次交谈后，经陈独秀介绍，刘伯垂加入了上海共产主义小组。

　　很快，刘伯垂接到了第一个任务，去武汉。

　　早在数月前，陈独秀曾到武汉讲学。他看到武汉经过五四运动的洗涤，新思潮和马克思主义已开始传播，认为武汉有条件组建共产主义小组。在陈独秀眼中，刚刚入党的湖北汉子刘伯垂正是创建武汉共产主义小组的最佳人选。

　　动身前，陈独秀交给了刘伯垂三样东西——给包惠僧写的信、建党经费以及进步书籍。

　　回到武汉后，刘伯垂首先与包惠僧联络。

　　包惠僧，湖北黄冈人，陈独秀到武汉讲学时，包惠僧作为记者曾采访过陈，因其思想激进，工作干练，深受陈独秀的器重。他曾回忆说，“一天，一个同乡的旧国会议员刚从上海回来，我去看他并采访新闻。他是同刘伯垂由广东经过上海才回到武汉的，见我干这一行，就劝我帮刘伯垂办报，或是办杂志，我当时未置可否，不想过了一个多星期，刘伯垂真来找我了。”

　　之后，刘伯垂又分别与董必武、陈潭秋、张国恩、郑凯卿秘密联络，商讨建党问题，取得一致意见。

　　1920年8月，刘伯垂、董必武、包惠僧等7人共聚董必武寓所，刘伯垂主持召开了会议，成立武汉共产党早期组织，当时取名为“共产党武汉支部”。会议推选了武汉党组织负责人，陈潭秋负责组织，张国恩负责财务，由刘伯垂提议，推选包惠僧任书记。

　　开律所掩护身份

　　随后，刘伯垂用陈独秀交付的建党经费租下湖北警察厅背后的武昌多公祠5号为机关部，门口挂着“刘芬律师事务所”的招牌做掩护。