住民生活に深い関係をもつ区役所は、合併前各町ともそれぞれ希望意見を提出したが、結局品川区は旧品川町におかれることとなった。その結果、品川区役所は当時目黒川改修工事のため東海小学校内に設けられた仮庁舎を増改築して区役所仮庁舎とした。
これより先旧品川町は、役場新庁舎建設を計画し、大正十四年以来改築積立金を行なってきた。敷地は北品川三丁目二四四番地・二四五番地をあて、旧目黒川の廃川敷を東京府より払下げて敷地を拡張した。その後、昭和七年にいたって工事に着工した。しかしその完成をみないまま市郡合併となった。
引継ぎを受けた東京市土木局建築課も、旧品川町の設計のままでは、区役所とするのに多くの不備があるとして、これに修正・変更を加え、昭和八年十一月工事に着手した。この間、品川区会も区民の要望をいれて工事促進の意見書を決議して、東京市参事会議長宛に提出した。すなわち、
本庁舎は東海小学校構内に在りて其の運動場を塞ぎ、教育上も思はしからざるのみならず、現在二部教授をなし居るを以て庁舎を新築し、現在の庁舎を校舎として使用するに於ては、二部教授撤廃とも可相成候。
殊に本区の如きは旧品川町時代の庁舎新築計画に係る鉄骨の一部今尚聳立し、新庁舎に対する区民の期待も熱烈なるものあり、……。
(品川区役所編『庁舎落成記念 区勢概要』)
これらの運動もあって九年十二月にようやくその完成をみた。敷地面積四九三坪、建物は鉄筋コンクリート造り、五階建、庁舎面積八六三坪という堂々たるものであった。以後この建物は区行政のセンターとして、昭和四十三年五月に現在の総合庁舎に移転するまで、その役割をはたしつづけることになった。
一方、荏原区役所も合併に際しては旧町役場を増築してその庁舎にあててきたが、人口増に伴い事務量の激増いちじるしく、事務室は狭くなった。そこで昭和九年三月の区会では庁舎建築促進委員を設けて、市当局に陳情をくりかえした。その結果、昭和十年には敷地が決定し、昭和十二年九月に着工、翌年六月には完成をみた。場所は中延町二三番地で、敷地面積は九一七坪、建坪九五六坪であった。さっそく七月には移転して、事務を開始した。これが、昭和二十二年の品川区と統合するまでの荏原区役所庁舎である。