天平14年(742) 聖武天皇の勅命によって行基菩薩の自作された薬師如来が本尊として祀られ開山されたと伝えられている。

しかし時代が下り戦禍などで衰退し、永正6年(1509) 現在の扶桑町山那にある臨済宗妙心寺派龍泉寺の開山友峯和尚がこの寺の再興を図ったため、友峯和尚を中興開山としている。
戦国時代、尾張・美濃・三河の各所で戦乱が起こり、天正12年(1584) 豊臣秀吉と徳川家康の両雄が小牧山で合戦した際、その兵火にさらされ堂宇伽藍を始め寺宝や文書など悉く焼失したため、創建当初のものは何一つ遺っていない。

慶長13年(1608) の斎藤村検地帳に正覺寺の記載があり、一応の復興がなされていたようにみられる。しかし、その後再び荒廃し元禄2年(1689)12月 僧宗儀が寺の衰微を憂い、斎藤村の人々と力を合わせ再興した。

円空上人が造顕した十二神将が正覺寺に祀られたのは、様々な研究をあたると寛文9年(1669)頃と推測され、円空上人が滞在した寛文頃は僧宗儀による再興以前であり住職のいない寺だったと考えられる。
天明1年(1781) 金毛山龍泉寺住職の是考和尚が正覺寺を縁深い寺とし隠居し始め、天明2年(1782)より 10年間寺務の余暇に筆を取り大般若経六百巻を書写をした。その後斎藤村の大藪某の別宅を借りて、3年間怠りなく経文の書写に励み、寬政6年(1794) はじめてから13年間掛かり大般若経六百巻と大乗妙典三部を書写し終えた。
その写本の内、大般若経六百巻は現在も正覺寺の宝物として遺る。