大正の初期、羽田(はだ)文庫の旧蔵書(ぞうしょ)を買い取り、守下で開館した市立図書館は、昭和六年(一九三一)、都市計画による道路網整備のため移転する必要が生じた。丸茂市長は、移転先として竣工間近い市公会堂脇の歩兵第十八聯隊営門付近をあげたが、移転案は同年二月の市会でも、十月の市会でも見送られてしまった。
　移転問題の決着がついたのは、五年後の昭和十一年であった。位置は当初移転候補地にあげられた市公会堂の東隣、工事総額は約五万円であった。工費のうち三万円を守下の旧敷地売却で調達することにし、鉄筋コンクリート三階建、地下一階、別に二層の書庫が計画に盛り込まれていた。しかし、日中戦争による諸事情の悪化から規模が縮小され、三階建は計画どおりだったものの地階と書庫は実現しなかった。

豊橋市立図書館

　昭和十三年(一九三八)、新しい図書館は業務を開始し、多くの市民が利用した。
　太平洋戦争末期の昭和二十年、空襲が地方都市に及んでくると、図書館では重要図書の疎開(そかい)が検討された。同年のはじめ、第一次疎開として市立公益質屋(こうえきしちや)の倉庫へ漢籍(かんせき)六八八冊を移すなど準備中のところを六月二十日の空襲にあった。幸い、図書館は戦災の難を逃れたが、さらに安全をはかるため、疎開中の漢籍と新たに洋装本一〇八八冊を牛車に積んで南設楽郡鳳来寺(ほうらいじ)村愛郷国民学校に運んだ。
　その後、図書館は無期休館に入り、愛知県教学課出張所、赤十字支部などがあい次いで移転してきた。戦後しばらく水道課が使用したが、二十年十月、ようやく閲覧業務を再開し、昭和四十二年に向山大池町の市民文化会館に移されるまで、市民の知的活動を支える役割を果たした。