3月，張國(guó)燾回到上海，即向中共中央傳達(dá)此次會(huì)議精神。7月16日，中國(guó)共產(chǎn)黨第二次全國(guó)代表大會(huì)在上海成都路一所房子里召開(kāi)，張國(guó)燾當(dāng)選中共中央執(zhí)行委員會(huì)委員兼組織部長(zhǎng)。此次會(huì)議討論通過(guò)了與國(guó)民黨建立民主聯(lián)合戰(zhàn)線(xiàn)的決議案。

8月初，馬林從莫斯科返回上海。早在年初，馬林提出共產(chǎn)黨與國(guó)民黨實(shí)行“黨內(nèi)合作”的設(shè)想，遭到陳獨(dú)秀等人否定后，便返回莫斯科尋求共產(chǎn)國(guó)際支持，如今他帶著“尚方寶劍”得意而歸。

為了落實(shí)共產(chǎn)國(guó)際的指示，在馬林的建議下，8月20日，陳獨(dú)秀、李大釗、蔡和森、張國(guó)燾、高君宇五位中央新執(zhí)委，與馬林、張?zhí)自谖骱e行會(huì)議。

會(huì)上，大多數(shù)執(zhí)委對(duì)黨內(nèi)合作的方式提出質(zhì)疑，張國(guó)燾與蔡和森則對(duì)黨內(nèi)合作表示了堅(jiān)決的反對(duì)意見(jiàn)，令馬林心懷嫉恨。陳獨(dú)秀、李大釗等人雖持反對(duì)意見(jiàn)，但由于此種合作方式是共產(chǎn)國(guó)際決定的，不得不服從，最終提出有條件加入國(guó)民黨，并獲得通過(guò)。

會(huì)后，李大釗、陳獨(dú)秀、蔡和森、張?zhí)紫群笥蓪O中山主盟，加入國(guó)民黨；張國(guó)燾也在國(guó)民黨人張繼的主持下，于9月加入國(guó)民黨。但此時(shí)，由于他在西湖會(huì)議上反對(duì)“黨內(nèi)合作”的強(qiáng)硬態(tài)度，致使他與馬林原本和諧的關(guān)系發(fā)生變化，馬林甚至提出黨內(nèi)出現(xiàn)小組織問(wèn)題，矛頭直指張國(guó)燾，使張國(guó)燾從此對(duì)馬林加強(qiáng)了戒備。

1923年2月1日，京漢鐵路總工會(huì)在鄭州舉行成立大會(huì)，張國(guó)燾受中央指派，于元月底前往鄭州出席指導(dǎo)。在大會(huì)遭到軍閥破壞后，張國(guó)燾參加領(lǐng)導(dǎo)了震驚中外的京漢鐵路工人大罷工。

“二七慘案”發(fā)生后，總工會(huì)為了保存實(shí)力，下令復(fù)工。盡管罷工失敗了，但此次罷工仍被認(rèn)為是中國(guó)工人運(yùn)動(dòng)“第一個(gè)高潮”中影響最大的一次罷工。而張國(guó)燾受失敗的影響，一度情緒不佳。