創建については諸説あります。
　『尾張名陽図会』によれば、小林城（現在の矢場町交差点辺り）主の牧長清が、生まれ故郷大和の三輪山に鎮まります大物主神（大国主神）を鎮め祭ったとしていて、それが元亀元年（1570年）のことと伝えられています。
　また、牧長清は同じ大須の春日神社・富士浅間神社も勧請したとも言われていますが、春日神社・富士浅間神社共に、牧長清よりも前に創建されたとの記録があり、両神社では牧長清が再興したとの説をとっています。同様に、当神社も牧長清によって再興されたとみる説もありますが、当神社には牧長清以前の創建を伝える資料が残されておりませんので、牧長清が創建した可能性の方が高いと考えられます。
　徳川時代には尾張八代藩主徳川宗勝を始め歴代藩主の崇敬も厚く、供御米五升（およそ九十リットル）が奉献されていました。明治時代になり、尾張十六代藩主徳川義宜を合祀しています。
　明治初年村社に列し神餞幣巾料供進指定社となり、昭和32年社格改正にともない五級社の待遇となりました。
　また、明暦二年（1656年）京都の蓮華王院（三十三間堂）の長廊に模して尾張藩の矢場がこの神社内に造られ、現在の矢場町の名はそれに由来すると言われています。