このような形式の墓は、ふるく中国に発達した墓室の構造が、楽浪（らくろう）・帯方（たいほう）二郡を経て、朝鮮に伝えられ、さらに多様に変化し発展したなかから、中国・朝鮮の諸文化とともに日本にもたらされ、採用されたのが、はじまりとみられる。墳墓をつくる技術の中に、横穴式石室という新しい構造が、わが国にとり入れられるのは、はやくも五世紀にはじまる。朝鮮半島に近い北九州では、横穴式石室古墳の初現とみられる福岡市の老司（ろうじ）古墳が五世紀前半の築造といわれ、本格的な横穴式石室古墳である同じ福岡市の丸隈山（まるくまやま）古墳や佐賀県の横田下（よこたしも）古墳などは、五世紀なかばごろの築造といわれている。ややおくれて畿内でも、河内王朝の根拠地とみられる地域を中心として、五世紀なかばごろに、堺市の塔塚古墳や藤井寺市の藤ノ森古墳、東大阪市の芝山古墳などがあらわれる。なかでも、藤ノ森古墳は、古市古墳群にふくまれており、初期の横穴式石室古墳を考える上で重要である。ひきつづき五世紀後半には、西日本の先進地域を中心に、古墳を築いてきたこれまでの首長層の間に、新しい葬法として、横穴式石室の築造技術がひろく採用されるようになる。