1300年、群馬県赤城山麓の豪族、大胡彦太郎重治が牛込に転居した際、本国の鎮守である赤城神社を分祀したのが始まりといいます。
その後、幾度かの遷座を経て1555年に現在の地に定まりました。
1683年には江戸幕府により牛込の総鎮守とされ、日枝神社、神田明神とともに「江戸の三社」と呼びならわされるようになりました。