すでに、明治九年十二月一日に、新橋・品川間の複線化が完成、その中間に田町仮駅ができて、新橋・横浜間列車運転の合い間に一日十往復の新橋と品川を結ぶ運転が開始された。客車は中・下等だけで、新橋・品川間は中等一〇銭、下等五銭であった。明治十年一月末に西南戦争が勃発したため、兵員輸送の必要から新橋・横浜間に軍事輸送臨時列車の運転が始まった。このため、二月二十日以降たびたび小運転を含めて新橋・品川間の一般運輸が休止されたという。明治十三年十一月に後述する東京馬車鉄道会社が創立されるに先立ち、同年十一月十四日には品川・大森間の複線化が完成している。そして、翌明治十四年十月十二・十三の両日には池上本門寺開祖遠忌式(日蓮上人六百年忌)が挙行されるため、新橋・大森間に一日十一往復の臨時列車が運転されたが、下等旅客には割引(二割五分引)往復乗車券が発売されたという。両日の旅客総数五万三七七〇人で運賃収入六、八〇〇円五一銭と京浜開業以来の最高成績額であった。後日、この輸送に従事した駅長・運輸掛員ら一七四名に対して、慰労金が支給されたというから面白い(『日本国有鉄道百年史』第1巻および年表)。
ところで、この年の春、二月二十日、当時右大臣であった岩倉具視の発意で、華族の蜂須賀茂韶・伊達宗城・武者小路実世をはじめとし、小野義真・安場保和・西村貞陽ら華士族六名を首唱発起人として、第十五国立銀行の場合と同じく、広く華族によびかけて、全国に鉄道を建設すべく、名称も「日本鉄道会社」を創設しようとした。ちょうど、この明治十四年は、経済的には明治十年代におけるインフレーションからデフレーションへの転換期にあたっており、また政治的にも、明治政府内部の意見の不一致から大隈重信の参議罷免と、政商三井・三菱の対立・抗争とも絡む開拓使(現在の北海道庁にあたる)官有物払下げ中止など重大な画期となった年であるが、広く、当時の日本経済を安定させるためにも鉄道建設が必要であること、華士族が所有している金禄公債を資金として鉄道会社を設立すれば華士族授産ないしは救済の効果をあげうること、そしてこの鉄道の建設工事に失業者や貧民を雇えば、貧民救済の目的を達しうること、とくに東京―青森間の鉄道建設は、北門の要衝ともいうべき北海道との連絡を緊密になしうること、などが前提とされていたのである。かくて、同年八月十一日に仮免許状が下付され、さらに、官有地・官有場の無償貸与・国税免除・利子補給など、手厚い国家保護の下で日本鉄道会社が発足した(『日本国有鉄道百年史』第2巻)。まったく、後進国日本における私設鉄道の国家依存、官営鉄道従属を端的に意味したものであったといえよう(中西健一『日本私有鉄道史研究』)。こうして、翌十五年四月七日に、川口(埼玉県)・前橋(群馬県)間着工が布達され、埼玉県庁を通じて用地買収も進展してゆき、九月一日には川口で起工式が挙行された。これと平行して、上野・川口間の鉄道建設も九月十七日に許可されたが、翌十六年七月二十八日には上野・熊谷間、十月三十一日には本庄まで、十二月二十七日には新町まで、明治十七年五月一日には高崎までを開通させ、六月二十五日には明治天皇をお迎えして、上野・高崎間の開業式が挙行され、さらに、翌十七年八月二十日には、前橋までの開業が実現したのである。
これよりさき明治十五年十二月には当時の工部省鉄道局長井上勝が工部卿佐々木高行に対して、新橋・横浜間の官設鉄道と日本鉄道との連絡には「首端ヲ品川ニ起シ東京市街ノ西端ヲ回リ目黒・新宿・板橋等ヲ経、戸田川ヲ岩渕村及ヒ川口村ノ上手ニテ中断」するという品川・川口間を結ぶ鉄道建設を上申している。他方、日本鉄道会社も明治十六年二月に、東京府知事芳川顕正に対して、株式募集の都合から、川口・品川間(品川線と称した)の鉄道建設工事の延期を申し出た。この連絡を芳川東京府知事から佐々木工部卿を通してうけた井上鉄道局長は、三月八日に、日本鉄道会社社長吉井友実に書簡を送って、品川・川口間の建設推進を要望した。さらに、こえて七月には、井上鉄道局長は、佐々木工部卿に提出した「東京・高崎間鉄道建築事業報告書」の末尾で、重ねて日本鉄道会社建設予定の品川・川口間の連絡鉄道を至急着工するよう上申している。その一番の論拠は「旅客ノ直接海港ニ趨ントスルモノノ不便ハ暫ク擱キ、此線路ニ於テ最モ望ヲ嘱スルモノハ、信・上・武ヨリ横浜ニ来往スル貨物ナルヘシ。此等ハ上野ヨリ新橋ニ転送スルノ手数ノ煩冗ト時日ノ曠過ト其不便ナル」点にあったと考えられる。つまり、一方で当時の品川線は一周していないばかりか、上野・新橋間は鉄道で連絡してはいなかった点を留意すべきである。ここに馬車鉄道が必要なる理由がある。もうひとつ他方で、日本の資本主義を育成するために必要な重要輸出品たる生糸の輸送のために品川線の建設が必要であったとみてよい。かくて、明治十六年七月三十日、日本鉄道会社は品川線の建設着工を決定し、八月二日に佐々木工部卿宛出願し、八月六日付で許可され、八月二十四日に太政官から布達されたのである。当時までに、川口・赤羽間の荒川仮橋が完成していたので、品川・川口間の工事は品川・赤羽間の工事となった。ところで、明治十七年一月に着手したこの品川・赤羽間の工事は、武蔵野台地を各所で横断するため、切取りおよび築堤のための工事量が大きかった。結局、明治十七年末までに、目黒・新宿間を除いて軌条敷設を終わり、同時に、すでに明治十六年八月二日に着手した荒川本橋梁(全長九二六・六メートル)の架設工事も進んで、本橋は三〇・五メートルの桁四連、避溢橋は一六・八メートルの桁四八連で、明治十八年二月十三日完成した。これと同じころまでに、目黒・新宿間の残部工事も終了し、同年三月一日に、品川・赤羽間二〇・一キロメートルが開通し、官設鉄道新橋・横浜間との連絡が完成したのである(『日本国有鉄道百年史』第2巻)。
その開通の日から、官設鉄道線(新橋・品川間)と日本鉄道会社線(品川・赤羽間)とを結ぶ普通旅客列車が一日三往復、新橋(いまの汐留)・赤羽間に運転されることとなった。運転時間は一時間一五分で、当初は、品川・渋谷・新宿・板橋の四駅が中間停車駅であったが、すぐに目黒・目白両駅が開業したという。旅客運賃は、品川・赤羽間上等七〇銭、中等四六銭、下等二六銭であった(現在の山手線の所要時間と比べていただきたい)。明治二十年八月には、官線と日本鉄道会社線との分岐駅である品川駅に事故防止のため、はじめて信号と連動する転轍器が装置された。これは、イギリス式連動器をまねたもので、当時工部省鉄道局のお雇外国人であったリチャード=ホスキングの指導のもと、新橋工場で製作されたものである(『日本国有鉄道百年史』年表、『汐留・品川・桜木町駅百年史』)。