俄国十月革命以后，共产主义运动一度成为东方各国的一股潮流。中国、日本、东南亚各国和印度等，都先后诞生了马克思主义政党。

马纳本德拉·那特·罗易（1887—1954）在早期印度马克思主义接受者和传播者中，无疑是最重要的。他出生于孟加拉的一个婆罗门家庭，曾因参加民族主义运动被捕。1915年，他滞留美国，开始接触到马克思主义，1917年因卷入政治案件，逃亡墨西哥，参与了墨西哥共产党的建立。1920年罗易作为墨西哥共产党的代表赴莫斯科参加共产国际第二次代表大会。以后，他受共产国际派遣，担任中亚局负责人之一，留驻塔什干，负责开展印度共产主义运动。1924年共产国际第五次代表大会上当选为国际执委会委员。

1920年10月17日，印度共产党在塔什干成立，共有七名成员，其中包括罗易在内有两对夫妻，1921年该党在莫斯科重建并加入共产国际。罗易在境外写了一些小册子和大量传单，运到印度散发，并且先后派遣二十多名党员回国工作，为印度国内共产党的成立，在思想上、组织上作出了贡献。

1921—1922年间，在加尔各答、孟买、拉合尔、马德拉斯和坎普尔等城市，共产主义小组纷纷成立。有些地区还专门创办了宣传马克思主义的报刊，如孟买小组1922年创办的英文周刊《社会主义者》，加尔各答小组1923年创办的孟加拉语报《人民之声》，拉合尔小组出版的乌尔都语月刊《革命》等。各地共产主义小组都直接与罗易联系。为了加强彼此间的合作，在罗易的指派下，孟买小组的创建者斯里帕德·阿姆里特·丹吉（1899—1991）任各小组负责人。

为消除布尔什维克后患，1924年3月，殖民当局以阴谋策划暴力革命危害政府的罪名，判定丹吉和罗易等八名共产党人犯有“谋叛”罪，判处或缺席判处他们各四年监禁。

1925年12月26日，各共产主义小组派出代表，在坎普尔召开第一次全国会议，成立了印度共产党，组建了中央委员会。由于会前以萨·巴克塔为首的一部分人，承诺印度共产党不与共产国际发生关系，因此这次印共会议是在英印政府允许的情况下召开的，也称“合法共产党”。1926年底，印度共产党发布了第一个党章，阐明党的目标是摆脱英国统治，建立工农共和国。1927年5月，印共召开第二次全国会议，确定党的最低纲领是争取民族独立，实现土地国有化。

尽管印度共产党尚未正式加入共产国际，但它继续接受罗易发自莫斯科的指示，并且受英国共产党具体指导。共产国际在《关于印度问题的决议》中，要求印共继续在国大党和自治党左翼内开展工作，以便建立一个全印反帝同盟。英国共产党也认为，印共应与国大党结成反帝的统一战线。因此印共积极与国大党合作，多人担当国大党的各级领导职务。但由于经验缺乏和罗易及英共的指导错误，印共的工作并无多大起色且常有反复。1929年3月，印共又一次遭到殖民当局镇压，三十多名骨干成员被捕入狱，组织受到严重损失。

1933年12月，全印共产党会议在加尔各答召开，选出新的中央委员会，以后又宣布加入共产国际。1934年7月，印度共产党被英印政府宣布为非法组织，此后不得不转入地下。