お墓を石でつくることについては諸説あります

1. 古事記に書かれている神話のイザナギノミコトとイザナミノミコトが生死を別つ【千引石】（ちびきのいわ）より
2. 石の耐久性（使用年限に対するコストパフォーマンスの高さ）

平安時代に仏教の伝来に伴い石工の技術も渡来人によってもたらされ、供養塔や墓石としての五輪塔、宝篋印塔、宝塔、多宝塔、層塔などが支配階級の間で出現しました。

その後、鎌倉時代～室町時代にかけて、禅宗（臨済宗、曹洞宗、黄檗宗など）の到来とともに位牌と戒名が中国から伝来します。その影響からか、位牌型の板碑や今日の墓石に近い角柱型のものもつくられるようになりました。

江戸時代になると徳川幕府の政策により寺院の檀家制度が確立し、人々に先祖に対する供養や葬儀、墓など仏事が生活の中に定着したことにより、庶民層まで墓石を建立するようになったと言われています。