碓氷(うすい)峠にアプト式レールが敷設(ふせつ)されて、信越線(上野・直江津間)が全線開通したのは、明治二十六年(一八九三)四月のことである。難工事であった碓氷峠(軽井沢・横川間)は、暫定的に鉄道馬車で連絡し、上野・直江津間が新しい交通機関で結ばれたのは二十一年十二月一日のことで、この開通は東海道線の開通(二十二年七月)よりも早かった。ではなぜ信越線が東海道線より早く敷設されたのであろうか。
その第一は、早くから地元長野・新潟県民間に鉄道敷設に対する熱意が旺盛であり、長野町の中沢与左衛門(長野中牛馬会社)や、高田町の室孝次郎(西頸城郡長、衆議院議員、愛知県知事)らが、新潟を起点として直江津・長野・上田をへて高崎にいたる鉄道を敷設するため、信越鉄道会社設立の動きが活発であったことがあげられる。
第二は、当初日本鉄道局は東京、京都・大阪間の東西を結ぶ幹線を、中山道(なかせんどう)の街道に沿って中山道線にする考えであった。この理由として、東海道は箱根をはじめとする急峻(きゅうしゅん)な山と、天竜川や富士川などの大河があり工事が容易でないことや、東海道は海に面していて平坦(へいたん)であり、海上交通や陸上交通がすでに便利であること、また海上から外国の攻撃を受けやすいというものであった。
第三は、その中山道鉄道敷設のために必要な大量の建設資材や石炭などは、長野県内に求めることができない。東京からは遠距離でしかも峻嶺な碓氷峠があり容易ではない。そこで直江津港を利用し、直江津・上田間の鉄道を先行敷設して資材を運搬しようとしたこと、などがあげられる。
さらに、急激に人口の増加する東京の食料需要を満たすために、新潟県の良質で安い米を大量かつ迅速(じんそく)に東京へ輸送することを政府は考えていた。ちなみに当時東京の米の値段は新潟県の三倍も高かったという。また、いっぽうでは、当時ランプが爆発的に流行し、これに要する大量の石油がアメリカから輸入されている。ところが新潟県では明治に入り急激に石油の産出が増加し、石油ブームがまき起こった。政府は国策上、この石油を早く東京に送り、市民の需要を満たす必要に迫られていた。
敷設工事は明治十八年六月、まず直江津港資材陸揚げ地点から駅予定地にいたる資材運搬線の敷設から始まった。直江津線の建設は、県境の関山までは順調に工事が進み、翌十九年八月、直江津・関山間が開通した。そして工事列車運転のかたわら旅客列車の運行もおこなった。関山・浅野(豊野町)間は十九年一月、二十年になると浅野・上田間、同年四月には上田・軽井沢間がつぎつぎと着工され、全線で建設のつち音が響いた。
現長野市域の浅野・屋代間は、現在路線の長野・篠ノ井経由と須坂・松代経由との二本が候補にあげられ誘致(ゆうち)運動や反対運動が入り乱れたが、地形・地質的な条件や経済的条件により現路線に決定された。
敷設工事は信越県境付近の険(けわ)しい火山地形や、妙高山麓(さんろく)の大田切川や県内では千曲川・犀川の長大河川があり、また、深い雪ときびしい寒さで難工事であった。さらに、明治十九年新潟県中頸城郡に大発生したコレラは、たちまち鉄道工事の沿線町村に蔓延(まんえん)し、工事作業員もその犠牲となったものが多かった。そのうち、長野の山崎菊次郎の支配する作業員から三七人の犠牲者がでており、工事も一時停滞するありさまで惨状をきわめた。
これらの障害を克服して明治二十一年五月一日、関山・長野間が開通し、長野県内にはじめて汽車が入ったのである。つづいて八月十五日には長野・上田間、十二月一日には上田・軽井沢間が開通し、直江津から着工して三年半、一四八キロメートルが開通した。建設費は二二九万五二二円であった。
明治二十一年五月一日、直江津・長野間の運転開始の日、長野駅周辺には早朝からその発着のようすを見ようと大勢の群衆がつめかけた。折しも御開帳の最中であり、混雑に拍車をかけた。一番列車の三〇〇人あまりの乗客と手荷物を見た群衆のなかには、奇妙だ、恐ろしいものだとわめくものもいたという。
中山道線は、工事が始まってみると通過する中部山岳地帯は地形が険しくて敷設困難な部分が多く、工期が長引き建設費が膨大になる。また、経営上の採算や経済効果も少ないことがわかり、十九年七月に東西を結ぶ幹線を東海道線とする決定がなされた。この幹線変更により、建設がつづけられていた上田・直江津間の鉄道は、幹線建設のための建設資材輸送という主目的は失われた。しかし、新たに国土横断線としての重要な役割を課せられて建設は継続されたのである。
十八年十月に開通していた高崎・横川間の官有鉄道と軽井沢停車場との連絡は、中沢与左衛門が高崎中牛馬会社と共同で設立した碓氷馬車鉄道会社が認可を受け、二十一年九月に鉄道馬車の営業を開始した。
この間の碓氷峠にアプト式レールを敷設して鉄道が開通したのは明治二十六年四月のことで、ここに直江津・高崎間が全通した。
当初この鉄道は、「高崎・直江津間鉄道」と呼ばれていた。また、先行して開通していた上田・直江津間は「直江津線」と呼ばれていたが、明治四十年に政府は直江津・新潟間の北越鉄道を買収し、四十二年の線路名統一で高崎・新潟間を「信越線」とした。さらに「信越本線」となったのは大正三年(一九一四)のことである。