昭和五十四年（一九七九）当時、長野県下一七市のうち、七市に博物館法による市立博物館が設置されていたが、県都長野市にはまだ本格的な博物館がなく、その立ちおくれが指摘されていた。そのため、善光寺には年間数百万人の観光客が訪れるにもかかわらず、参拝がすむとみな素通りしてしまうという声が観光面からもだされた。また、旧市町村役場文書などをはじめ各種の資料の散逸や破損・廃棄が目だち、その保存の必要を指摘する世論もたかまっていた。市は昭和四十一年に策定された総合基本計画に、「文化創造の場として広く市民に親しまれる博物館」の建設をとりあげたが、まだ具体的な動きはなく、同四十六年の第二次計画によってしだいに具体的な動きをみせるようになった。

　昭和四十七年には、地元の歴史研究団体から市立博物館設立の要望書がだされ、有志による博物館期成同盟会も結成された。これらの動きにこたえて、市は昭和四十八年に博物館建設調査委員会を発足させた。委員会は審議のすえ、科学博物館などは別に考えることとして、「善光寺平文化を中心とした総合博物館とする」という基本構想案を答申した。同年四月「博物館建設事務室」が設置され、建設へ向けて本格的な作業が開始された。

　設置場所は、善光寺への参詣客の便宜を考慮して、善光寺境内や城山地区を希望する声が根強くあったが、昭和五十四年十月、駐車場をふくめて十分な土地が確保でき、地形的にも安定しているとして、小島田町八幡原史跡公園内への建設を正式に決定した。

　建物は史跡公園にふさわしいものとするため独創性やアイデアがもとめられたため、設計にあたってはコンペ（設計競技）方式が取りいれられた。この方式の採用は県下の公共施設では最初で、全国的にみてもまだ数ヵ所にすぎなかった。審査の結果、宮本忠長設計事務所の案が当選した。かやぶき屋根の民家をイメージし、周囲の自然とも調和した作品で、のちに日本建築学会賞を受賞した。

　建設工事は昭和五十五年四月に着工し、主体工事は翌年五月完了、展示関係工事も五十六年九月には完了した。地下一階、地上二階建て、一部五階建てで、天体観測ドーム・プラネタリウムが設置された。建物の延べ面積は七二五七平方メートルであった。古文書・民俗・考古資料の三つの収蔵庫をそなえ、資料保管の万全を期するため、災害時に備えて、展示品をいためないで消火できるハローンガス方式を導入した。

　一号棟は常設館とし、二号棟には特別室・収蔵庫・研究室などをおき、二階には後町小学校にあった理科教育センターを移した。また、公共事業や民間の開発事業による緊急発掘調査の調査体制を強化し、埋蔵文化財の保護・活用の充実をはかるため、館内に長野市埋蔵文化財センターが併設された。

　常設展示は、長野盆地の生い立ち、土器をつくる人々、善光寺とその信仰、川中島の戦い、街道の発達、むらの人の祈りなどをテーマとしたが、近世では松代藩関係の資料が近くの真田宝物館にまとまっているので、それとの重複をさけるため、「村と町のくらし」に焦点をあてることとした。

　また、見るだけではなく、体験と参加を基本とする「生きた博物館」をめざして、「揺れ動く大地」のコーナーには地震体験室を設置し、また、弥生時代のたて穴式住居、竹原笹塚古墳（松代町東条）の実物大模型を展示したほか、戸隠村から江戸時代初期の民家を移転した。民家では、わら細工、機織(はたお)り、七五三縄(しめなわ)づくりなどの実演をし、年末にはもちつき大会も実施した。また、常設展示室のほかに特別展示室も設置して、テーマ展を開き、市民の利用にもあてることとした。プラネタリウム（平日は理科センターで使用）は土曜・日曜・祝休日と小中学校の長期休暇に時間を指定して開館し、天体観測室（ドーム）には四〇センチメートル望遠鏡を設置した。

　博物館の建設費は展示品をふくめて総額約二四億円であった。開館は昭和五十六年九月二十三日で、開館にあわせて、はにわ展が開催され、大塚初重明治大学教授が「世界の古墳」について記念講演をおこなった。

　開館後の人気は高く、常設館の初日の入場者は四〇三〇人あり、一ヵ月で三万人をこえた。『広報ながの』も、「シリリーズ市立博物館」を連載し、市民の関心をたかめた。

　理科教育センターは、最初昭和四十四年（一九六九）四月、後町小学校内の空き教室四室を利用して開設された。当時、各学校では多様化する教育内容にたいする教材や施設が十分ではなかったため、共同で児童生徒の観察・実験の場を確保し、また、教師の研修にも利用することを目的として設置されたものであった。しかし、市街地にあるため、天体観測などができにくくなっており、市立博物館の建設を機会に、観察条件のよい博物館に併設したものであった。これによって児童生徒の一日学習が可能になった。

　なお、昭和六十年には、茶臼山自然史博物館が市立博物館の分館として開館した。市立博物館のなかの自然科学分野のうち自然史部門を独立させ、茶臼山地域の植物園・動物園・恐竜公園の参観者の学習の便をはかったものであった。また、平成十二年（二〇〇〇）には、東町の国道ぞいに市立博物館付属施設として、「ちょっ蔵おいらい館」が開館した。善光寺門前町の油問屋三河屋庄左衛門家を移築保存したもので、江戸時代の門前商家の息吹を見学するとともに、多目的な施設として設置された。

　少年科学センターは、昭和六十年七月城山公園の動物園の北側に開館した。当初は、児童科学館の名称で、地附山山頂一帯に計画されたレジャーランドの中心的施設として建設が予定されたが、地元には山頂の開発にともなう災害発生を懸念する声もあり、また、「児童生徒がいつでも行ける場所に建設すべきだ」という要望もあって、市街地に近い城山公園内の動物園の跡地にきまった。しかし、動物園の廃止には反対がつよかったので、最終的にはその北側に決定し、名称も少年科学センターとした。鉄筋コンクリート、地上一階、地下一階、敷地約三四〇〇平方メートル、実験工作室もつくられた。建設費の総額は一一億円であった。

　「二十一世紀をになう子どもたちに最近の科学や基礎科学を知ってもらうため」の施設で、「自分自身の手・足・目・耳など体全体をつかって、基礎原理・最新の科学技術を体験学習することによって、科学知識や科学する夢を育てること」を目的とした。市内の児童の教科での利用は無料とした。

　開館後の人気は高く、とくに、宇宙遊泳に似た体験ができる冒険広場のボールプールや航空シミュレーターは人気を集めた。初年度の入場者は一〇万人をこえた。のち、しなの鉄道の運転室模型などが導入され、また、週休二日制の普及にともなって、第二、四土曜日をウェルカムデーとして、小中学校の児童・生徒に無料開放をしている。また、県下初の児童科学館として県下各地の遠足や社会見学の目的地としても定着していった。