近代水道事業が各地で開始されると，それに関係する職員は増加したが，それぞれが始めての仕事であったため，諸問題の解決に苦労が多かった。

　とくに，水道の水質に関しては問題が多く，各地の水道関係者の関心は高かった。その相談を数多く受けていた東京市衛生試験所長の遠山椿吉博士は，水質を確定するための統一方法を定める必要を感じた。そこで，明治37年3月23日から25日まで3日間，東京・横浜・大阪・長崎そして函館の5都市の水道関係者の出席を求めて，「上水水質試験統一のための協議会」を開催した。

　協議会は，目的を達成して「上水試験法」を確定することができた。が，それ以外の水道事業に関する資料の交換と研究を持続させることになり，「上水協議会」を結成した。会は，大正10年までの17年間は改良水道を所有する会員都市が輪番で，年1回開催した。

　大正11年4月1日には，「上水道に関する諸般の事項を研究調査し其の改良進歩を図るを以て目的」とするとして，上水協議会に発展した。この会は，その事業の1つとして「上水道統計」を発刊して，日本の上水道事業進展に大きな業績を残している。水戸市は，昭和2年この会に所属し，全市水道布設事業の推進方法について指導を受けた。

　昭和7年5月12日には，社団法人水道協会が，内務大臣の認可を受けて発足した。それまでの協議会は市町村・会社などを単位とした組織であって，学識経験者など上下水道界の権威の参加手段はなかった。それらは別に水道研究会を組織し，技師知識の交流をしていた。これが，水道協会の成立によって，上水道経営者を正会員，上下水道事業に従事または従事した者・上下水道に関して学識経験を有する者は特別会員として参加できることになった。こうして，日本の上下水道関係者が大同団結し，市民生活を維持するための大事な「上下水道ノ進歩発達ヲ図ル」（社団法人水道協会定款第2条）ことになった。第1回の総会は，昭和7年9月15日から同19日まで，満州国大連市で開かれ，水戸市からは主事の谷伴夫が出席した。昭和7年12月には，会員間の情報交換，技術向上を目的とした「水道協会雑誌」が創刊された。

　水戸市は，協会成立時に会員となり，量水器問題や火災保険料値下げ運動で，重要な役割を果たしている。

　協会は，その成立当初から各地ごとの，支部体制をとった。水戸市は関東支部に属し，昭和16年7月現在，17の正会員があった。支部会は，昭和8年1月18日より同19日まで横浜市で第1回が，第2回は同年6月16日より同17日まで水戸市で開催された。これは，10月11日から同14日まで開かれる大阪での第2回総会に提案する支部の案を協議するものであったという。