호는 백연(白淵·배못)이며, 부산 동래 출생으로 1908년 보성고보를 졸업한 후 교사로 근무하였다. 

대종교를 중광한 홍암 나철의 수제자인 동시에, 한힌샘 주시경의 수제자이기도 했다. 

특히 홍암 나철이 1916년 구월산 삼성사에서 순국할 당시, 나철을 수행한 6명의 시자(侍者) 가운데 최고 책임을 진 수행자로서, 대종교의 역사와 이론에도 해박했던 인물이다.
한글에도 조예가 깊어, 광문회(光文會)에서 조선어사전 《말모이》 편찬사업에도 참여하는 등 한글학자로도 이름이 알려졌으며, 1914년 주시경이 세상을 떠나자 스승이 못다 한 일을 이어 받아 그것을 더 넓히고 더 열어서 우리의 말과 글과 얼이 묻히지 않고 영원히 자랄 수 있는 기틀을 다지기 위해 《조선말본》을 저술하기도 했다. 

당시 《조선말본》은 그 때까지 발표된 문법학설로는 가장 깊고 넓게 연구된 대표적 권위라는 평가를 받았다. 김두봉은 후일 조선어학회 설립에도 중요한 배후 인물로도 역할을 했다. 
1919년 3·1운동에 참여한 후 상하이[上海]로 망명하여 본격적으로 독립운동을 시작하였다. 

1924년 대한민국임시정부 의정원 의원에 선출되었고, 1935년 조선민족혁명당 중앙집행위원을 맡았다. 이후 1942년 옌안[延安]에서 활동하면서 조선독립동맹에 가담, 그 해 7월 주석이 되었다. 
8·15광복 후 북한에서 조선신민당을 조직하여 그 위원장을 지냈으나 1946년 8월 소련군의 압력으로 조선공산당 북조선분국과 합당하여 북조선노동당이 창건되자 그 위원장이 되었다. 

한편, 그 해 2월 북조선임시인민위원회 위원장을 맡았다. 그러나 남북한 노동당이 합당하여 조선노동당으로 개편되자, 최고인민위원회 위원장이라는 실권 없는 자리로 밀려났다. 

이때를 전후하여 김일성 체제에 불만을 품고, 옌안파 중진들과 함께 저항하였다. 

그러나 1958년 조선노동당 대표자회의의 결의로 당에서 제명당하였고, 

그 후 평남 순안 농장의 노동자로 쫓겨나 중노동을 강요당하며 연명하다가 1961년 사망한 것으로 알려졌다.