第二区の起工は明治一七年一二月一七日に認可された。大宮―宇都宮間の工事は、鉄道局により大宮―中田間、中田―宇都宮間、そして利根川架橋に分けられ施工されたため、それぞれに担当者が選任され、増田礼作・仙石貢・小川勝五郎が当たった。すでに一七年一一月には利根川架橋工事が開始されており、一八年一月五日には大宮―栗橋間を、さらに二月二日には中田―宇都宮間がそれぞれ起工された。工事は順調に進み、翌年の四月には石橋―宇都宮間が敷設され、六月一五日には井上勝鉄道局長を迎え、中田―宇都宮間の試運転が行われ、七月一六日大宮―宇都宮間が開業した。利根川鉄橋は一九年六月一七日に落成し、それまでは利根川右岸の栗橋―大宮間、左岸の中田―宇都宮間はそれぞれ折返しの運転であったが、ここに上野―宇都宮間は直通となり、宇都宮から五時間で上野に到着した。開業当時の運賃は上等・中等・下等に分けられ、下等の場合、石橋―宇都宮間が一三銭、上野―宇都宮間は一円五銭と高額で、中等の場合は下等の二倍、上等の場合は三倍であったという。
　宇都宮以北の線路敷設についておおかたの予想は、陸羽街道に洽って敷設されるとみていたが、予想に反して那須野が原を縦断する路線が敷設された。これは一刻も早く青森に到着するといった国策によるもので、直線的な鉄道の敷設が望まれ、宇都宮より直線で北に向かい長久保・矢板を通り那須野が原を北上していった。こうして一九年一〇月一日に宇都宮―那須（西那須野）が開通し、続いて一二月一日には黒磯まで開通した。黒磯から白河までの二五・七キロは急勾配で、この間黒川を五回横断している。多くの悪条件にかかわらず、第二区線の大宮―白河間は二〇年七月一六日に全線開通した。
　なお、日本鉄道会社の株主においては、明治三五年の「二百株以上株主氏名表」をみると、政商として名高い岩崎久弥（二万二九八二株）や住友吉左衛門（三、九九四株）・鴻池善右衛門（二、五〇〇株）が名を連ね、旧華族としては徳川義礼（一万七七株）・鍋島直大（八、〇三〇株）・池田章政（五、五七五株）・徳川家達（四、七九一株）の名がみられた。また、明治の元勲や新華族として松方巌（一、二一一株）・西郷従道（九〇七株）など日本の名だたる華士族政商が高額株主として加入する中にあって、高根沢の二大地主である見目清と加藤正信が上位に名を連ねた。見目清は一、九七九株を有し、加藤正信が一、一九四株を持つなど、県内において飛び抜けて多い株を保有していたことは特筆される。なお、他の県内株主では、植竹三右衛門（二九九株）・滝沢喜平治（二八五株）・矢口長右衛門（二〇〇株）などが見られた。

図10　旧路線の跡を残すレンガの橋脚（上河内町東芦沼地内）