본명은 기학(夔學)이며 호는 백포(白圃)다. 

일찍이 《북여요선(北輿要選)》의 저자인 김노규로부터 한학과 주역을 배웠으며, 경성군(鏡城郡) 함일사범학교(咸一師範學校)에 입학하여 신학문도 습득했다. 

졸업 후 1910년까지 교육사업에 종사하다 한일합병이 되자, 

1911년 만주로 망명하여 명동학교(明東學校)와 청일학교(靑一學校)를 설립했다. 
또한 민족종교로 항일단체적 성격을 띠는 대종교에 입교하여 포교에 힘썼으며 만주로 들어오는 망명의병을 중심으로 독립군단인 중광단(重光團)을 조직하고 단장이 되었다. 

단원들에게 항일의식과 대종교 교리를 교육했으나 무기가 없어 직접적인 군사행동은 취하지 못했다. 1916년 대종교의 총본사(總本司) 전강(典講)이 되어 활동하여 사교(司敎)가 되고 영선(靈選)까지 올랐다. 

1919년 3월 계화(桂和) 등과 중광단을 정의단(正義團)으로 개편했다. 이들은 무력투쟁을 목표로 했으나 처음에는 군사훈련만 하던 중 김좌진을 맞아 전투태세로 개편하고 단원을 모집하는 한편 체코군의 도움으로 무기도 구입하여 독립군으로서의 면모를 갖추게 되었다.

이무렵 대종교 2세 교주인 김교헌(金敎獻)이 그에게 교주의 위치를 전수하려 했으나 대종교 일보다는 무력항쟁을 먼저 수행해야겠다는 이유로 끝까지 사양했다. 

8월 정의단은 무장독립군을 보유한 항일단체이자 북간도 전지역을 행정구역으로 삼는 행정부를 겸비한 군정부(軍政府)로 개편·발전되었다. 현천묵(玄天黙)·김좌진·김규식·이장녕(李章寧)·이범석과 함께 군사훈련, 무기구입, 재만한인사회의 권익옹호, 대중교섭, 항일투쟁방략구상에 진력하던 중 12월에 상해 임시정부와 연계하여 군정부를 북로군정서(北路軍政署)로 개칭하면서 총재에 취임했다. 

서원(署員)은 1,600명 정도로 러시아에서 구입한 무기로 무장했고, 속성(速成) 사관학교를 설치하여 훈련을 시키는 한편 여러 곳에서 경찰사무와 정보연락을 했으며, 지방산업을 진흥시키며 각지에 소학교와 야간강습소를 설립하여 교육사업에도 힘썼다. 

1920년 김좌진과 함께 청산리전투에서 일본군을 크게 무찔렀으나 그뒤 일본군의 대토벌작전으로 인해 주력부대를 북만주 미산 현[密山縣] 당벽진(當壁鎭)으로 이동시켰다. 

여기서 홍범도의 대한독립군, 서로군정서군의 이청천 부대, 안무(安武) 부대, 광복단 등의 여러 부대를 통합하여 대한독립군단(大韓獨立軍團)을 조직하고 총재가 되었다. 

그는 3,500명으로 3개 대대를 편성했으며 다시 항일전을 전개하려고 러시아의 원조를 위해 이동시키고 일부는 해산했다. 

그러나 자유시로 간 이청천·오광선(吳光鮮)·안무 부대가 러시아군에 의해 무장해제를 당하는 과정에서 많은 한인이 살상되는 이른바 자유시사변이 발생했다. 
그는 정세를 관망하며 둔병제(屯兵制)를 실시하여 병력을 기르려 했으나 마적의 습격으로 근거지를 파괴당했다. 

이에 부하들의 비참한 죽음을 목도한 그는 1921년 8월 27일 대종교 수양법의 하나인 조식법(調息法)으로 자결했다. 

저서로 〈오대종지강연(五大宗旨講演)〉·〈삼일신고강의(三一神話講義)〉·〈삼문일답(三問一答)〉·〈구변도설(九變圖說)〉·〈진리도설(眞理圖說)〉·〈회삼경(會三經)〉 등이 있다. 

특히 〈회삼경〉은 전래의 〈삼일신고〉와 나철의 〈신리대전(神理大全)〉에 나타나는 삼일철학의 원리를 명쾌하게 분석한 철학서다.