回国后的杨明斋，在上海法租界租了渔阳里6号石库门作为活动地。他开办了外国语学社，亲自教授俄语，是很多中共早期党员的外语老师。

　　后来，有学生回忆，当时所谓外国语者，实际只有一种：俄语；教师只有一位：杨明斋。

　　为了宣传俄国十月革命的经验，加强双方的沟通，杨明斋成立了中俄通讯社。

　　这个中俄通讯社为中共的成立做了舆论准备。据统计，从1920年到1921年7月，仅在上海报刊上发表的稿件就有140余篇，其中大多数是介绍俄国革命胜利经验的。

　　1921年春，作为中国党组织的代表，杨明斋和张太雷被派到俄国伊尔库茨克，向共产国际远东书记处汇报情况，就建党和共产国际与中共的关系等重大问题举行多次会谈，双方最后商定：中国共产党隶属共产国际，是共产国际的一个支部。

　　杨明斋还参加了1921年6月至7月召开的共产国际三大，他也成为中共内部参加共产国际会议的最早一批人之一。

　　与此同时，中共一大在上海召开，年届不惑的杨明斋身份由俄国共产党员转为中共党员。

　　在众多20岁左右的早期党员眼中，杨明斋始终是长者形象。

　　中共一大代表李达说，杨明斋是“很早的同志”，著名翻译家曹靖华说其是长者，周恩来后来忆及杨明斋时称其为“忠厚长者”。

　　1925年10月，苏共决定设立莫斯科中山大学，为国共两党培养干部，杨负责选派干部赴苏学习。

　　杨明斋先后选送刘少奇、任弼时、萧劲光、罗亦农、任伟民、张闻天、王稼祥、乌兰夫、伍修权、吴亮平、孙冶方、潘自力等人去苏联学习。

　　直汉

　　意见分明立场坚定

　　杨明斋1米80的个子，大脸，宽肩膀，粗眉大眼，面色黑红，身体强健，典型的山东大汉。

　　早期受教于他的人，都说他忠厚老成，“是个好人”。山东大汉直爽、不做作，在杨明斋身上表现得更甚。

　　二大后，共产国际建议中共党员以个人身份加入国民党，开展国共合作。党内讨论时，杨明斋反对尤为激烈。他认为，国民党与北洋军阀宣扬的“宪法”雷同，反对加入。

　　此后，杨明斋没有闲着，选择著书立说，反对复古思潮。论战时，他直截了当，毫不含糊。

　　建党之初，社会上出现一种思潮，主张在中国传播复古主义，代表人物是梁漱溟、梁启超和章士钊等人。

　　针对这些思潮，杨明斋于1924年出版了《评中西文化观》，指出复古是一种倒退，更是白费工夫，只有吸收马克思主义这样的西方文化精华，走社会主义道路，中国才有希望，才能振兴。

　　书一出版，按照中共早期党员罗章龙的说法，“激动了最高学府的玄学空气（意指复古思潮的主张）”。

　　而中共早期党员李维汉认为，这是一部“确实有价值”的作品，在东方文化声浪甚嚣尘上之时，可以帮助很多青年解决很多疑问，指导他们如何行动。

　　1927年大革命失败后，杨明斋到唐山市车轴山中学任教，并作为地下党的身份进行秘密写作。面对革命队伍中出现的投机分子、“骑墙”分子和耍滑头的人，杨明斋创作了《中国社会改造原理》一书。他在书中揭露了投机分子“骑墙、投降、滑头”，并表达了对他们的蔑视。同时，他也不忘鼓励革命者坚持“自己的信条”，尤其是在大革命失败后更应如此。