日本人として初めてニコライから洗礼を受けたのはパウェル沢辺琢磨、イオアン酒井篤礼、ヤコフ浦野大蔵の三人でした（1864）。中でも沢辺琢磨の回心のエピソードは注目されます。生粋の土佐藩士で坂本竜馬の従兄弟にあたる沢辺は函館で剣術を教えていました。彼は最初、外国人を嫌い、ロシア人であるニコライを見て日本国を毒する輩と決めつけ、ある日、論争を持ちかけてあわよくば切捨ててしまおうとニコライのもとへ乗り込んでいったのです。しかしニコライの話を聞くうちに反対にその教えの高尚さに心打たれ、やがて正教会の信仰を熱心に奉ずるようになり、後に司祭となりました。
ニコライは明治5年頃、東京に伝道の本拠地を移し、正教会の伝道を熱心に行いました。教勢はめざましく発展し日本全国に正教会の種がまかれていきました。明治18年には信徒数はすでに一万二千人を越えていました。
1891（明治24）年、東京の神田駿河台にビザンチン建築様式の「復活大聖堂」が建立され、ニコライの名に因んで「ニコライ堂」と呼ばれるようになりました。当時としては驚くべき大きさで荘厳なその姿は多くの人々の関心を引き寄せました。
奉神礼に欠かせない聖歌の面についてもヤコフ・チハイやデミトリイ・リオフスキーといった人たちが来朝して熱心に音楽の基礎を教え、日本音楽史上初めてと言われる四部合唱の聖歌隊が編成されました。彼等が編曲・作曲した聖歌は今でも歌われています。
明治時代、ロシアに留学してイコンを学んだ女性である山下りんの存在は、一般美術史の目からも注目されています。彼女の書いたイコンは、今でも各地の正教会に掲げられています。
正教会の神学校もニコライによって創立され、聖職者だけでなくさまざまな分野で活躍する人々を輩出しました。正教会の信仰、教義、精神性などを伝えるために、多くの正教会関係の文書が翻訳、出版されました。ニコライは他の諸教派が持つような教会が運営する病院や福祉施設や大学などは創設しませんでしたが、正教会の信仰は彼の福音宣教と伝統的な正教の奉神礼の実践に徹した働きによってしっかりと日本に根付きました。ニコライは使徒と同じような働きをした聖人として「亜使徒」と呼ばれます。
日本正教会は明治の後半から大正、昭和にかけて苦難の時代を迎えます。 まず日露戦争（1904-05）によって日本とロシアの関係が悪化し、正教会が白眼視されたことがあげられます。そして偉大なる師ニコライが永眠します（1912）。 優れた後継者であるセルギイ主教がその後を継承しますが、 突然、ロシア革命（1917）という決定的打撃を被りました。日本正教会は物理的にも精神的にも孤立無援の状態となり、 あたかも幼い子供が母を失ったかのようでした。 ロシア正教会に吹き荒れていた混乱が日本にも押しよせようとしましたが、セルギイ主教はしっかりと正教会の正しい聖伝を死守しました。ところが引き続いて起こったのが、関東大震災（1923）によるニコライ堂の崩壊です。鐘楼が倒れ、ドーム屋根が崩落し、火災が起き、聖堂内部をすべて焼き尽くし、貴重な文献や多くの書籍なども焼失してしまいました。 セルギイ主教は日本全土の信徒を訪問し、再建のための募金を集めました。こうして1929（昭和4）年に東京復活大聖堂は復興しました。しかし日本の中では正教会だけでなくすべての宗教にとって政治的な統制を受ける困難な時代を迎えました。世界大戦の混乱と悲劇の中、終戦を迎える直前、セルギイ府主教は永眠しました（1945）。司祭や伝教師などが激減し、信徒の多くも離散してしまいました。
戦後、日本正教会はロシア革命以来共産主義政権下に閉じこめられていたモスクワ総主教庁との事実上の断絶関係の中で、日本教会とは姉妹関係にある在アメリカ・ロシア正教会（「メトロポリア」）から主教を迎えました。そして1970（昭和45）年、米ソの冷戦の緩和に伴い対話がよみがえり、「メトロポリア」がロシア正教会から独立して「独立教会」（アフトケファリア）となるのに伴い、日本正教会もモスクワ総主教の祝福を受け「自治教会」（アフトノモス）となりました。
自治教会とは完全な独立とはいえないものの経済的には独立し、日々の教会運営を独自に行うという形です。自治教会となった後、フェオドシイ永島主教が最初の邦人府主教となり、日本正教会は低迷していた教勢や財政の立て直しに励みました。各地で聖堂が再建され、信徒の啓蒙教育や宣教活動が活性化されました。1999年のフェオドシイ府主教の永眠後、東京の大主教ダニイル主代座下が日本教会を代表する府主教に着座し、東日本主教教区の仙台の主教セラフィム辻永座下とともに、日本正教会の伝道と牧会を大きな希望をもって進めています。