明治政府が、あたらしい近代国家形成の途を模索しているなかで、交通手段として、在来の宿駅制度に依存していた点についてはすでに述べた。しかも、そこに大きな矛盾を内包していたことも指摘しておいた。すでにイギリス公使パークスは、中央集権・国内市場の統一のためには、鉄道建設が不可欠であること、かつ速やかに鉄道建設に着手するよう明治政府に勧告してやまなかったといわれている。民部省・大蔵省・外務省における高級官僚(あるいは、のちに明治政府の中枢をになう)大隈重信・伊藤博文・寺島宗則らも、パークスらの説得に応じて鉄道建設を唱道してやまなかった。開港場横浜を中心とする外国商人からも不便が訴えられ、幕末期から京浜間に鉄道を建設する免許を出願した外人も少なくなかった(『東京百年史』第二巻)。明治二年十一月に鉄道建設についての中央政府の方針が決定し、翌十一月から鉄道建設資金の借款の準備が開始され、明治三年三月には、イギリス人技師モレルが横浜に到着し、東京・横浜間の用地買収・鉄道建設が着工されてゆく(『日本国有鉄道百年史』年表)。高輪~品川間は難工事の一つにかぞえられていた。それは「品川の八ッ山に陸軍の事務所があり、また浜御殿の所に海軍の事務所があって」測量に立入ることができず「大隈(重信)侯の大英断」で高輪~品川間は海のなかへ汽車を走らせるために、「馬ぶみの土手」が築かれることとなった(『汐留・品川・桜木町駅百年史』)。築堤用の土砂は、八ッ山・御殿山の切取場所から馬車で運び、明治五年五月四日に完成した。もちろん、八ッ山を中心に、北品川宿だけでも二十三人の土地が買収されている。もちろん、祖先伝来の土地であるだけに買収のプロセスは決して簡単ではなかったといえよう(『品川町史』、石井満『日本鉄道創設史話』)。明治三年五月、芝(現港区)付近では、漁民から補償の要求が出され、品川から神奈川までの間は、川幅の拡張、川の付換えなどの要求が地元住民から出されている。橋梁工事は同じく明治三年六月から始められて、明治四年十月十五日までに六郷川橋梁工事が完成した。建設工事も軌道にのった明治四年八月には試運転も開始されている。明治五年二月には、横浜から品川までの線路の敷設を終わり、それより早く、同五年一月二十日には、和洋折衷、木造平屋二階建の品川停車場の本屋(現在より南よりの港区芝高輪南町十六番地)が落成した。五月二日に太政官から、品川・横浜(いまの桜木町)間二三・八キロの開業が公表され、五月七日から、品川・横浜間の単線鉄道が仮営業し、二往復の旅客列車が運転された。こえて六月五日には、川崎・神奈川の停車場が設置されて、五月中には一週間ほぼ四、〇〇〇人であった旅客輸送人員が、六月に入ると一週間一万人をこし、七月には一週間一万五〇〇〇人に達したといわれている。まさに当時の盛況が偲ばれよう。
かくて同年七月二十五日に新橋・品川間の線路敷設が完了し、九月九日に明治天皇の臨幸のもとに、鉄道開業式が挙行されることとなった。実際は、開業式当日雨のため十二月に延期されたが、山尾工部少輔・井上鉄道頭以下、百官・各国公使・琉球王子らが列席した。午前十時、九両編成の列車は新橋駅を出発して横浜駅に向かったが、日比谷練兵場では、祝砲一〇一発を放ち、品川沖に停泊中の軍艦からは二一発の祝砲がとどろいたといわれている。新橋・横浜間は三五分の所要時間で意外に早いのにおどろく。旅客運賃は、上等一円一二銭五厘、中等七五銭、下等三七銭五厘、四歳以上十二歳未満の小児は半額とした。
明治六年五月一日、旅客列車を十二往復に、六月十五日から旅客運賃を上等一円、中等六〇銭に賃下げした。九月十五日から京浜間にはじめて貨物営業を開始した(『日本国有鉄道百年史』第1巻、『汐留・品川・桜木町駅百年史』)。
なお、明治二年四月に、横浜・東京間往復の乗合馬車営業が出願され、品川宿を通っていたものと思われるが、実態は必ずしも明らかでない。