これより前、明治13年4月、開拓使函館支庁の官吏や教員が集まって書籍共覧会を組織する計画を立てて活動を開始した。会員各自が会費を出し合って色々な書籍を購入し、それを回覧してお互いに教養を高めようとするのが会の趣旨であった。さらに、11月には総会を開き『論語』の里仁篇の中に、「賢を見ては齊しからんことを思い、不賢を見ては内に自ら省みるなり」とある言葉にちなみ、会の名称を思齊会とした。同時に役員の選挙が行われ、幹事に蛯子興太郎、副幹事に石田良助、会計に金子慶吉が選出された。3名とも開拓使函館支庁の役人である。翌14年10月、「思齊会規則」を定め、会の拡張と充実をはかることになった。すなわち、総則(全6条)の第1条には、「当会ノ目的ハ世上有益ノ書籍ヲ購求準備シテ、共ニ閲覧スルコトニアリトス」と掲げ、規則を履行する者は誰でも入会できること、書籍購入資金として1か月10銭を会費として納めること、書籍購入の手続、書籍の回覧順序、幹事および会計選挙のことなどの条目が列挙されている。
　当時の「函館新聞」紙上でも、思齊会設立については詳しく報道され、また、思齊会も度々広告を出して広く一般に会員を募集している様子がうかがわれる。なお、温古舎の千葉重吉と佐久間市五郎も思齊会の会員に加わっていた。思齊会と同じ頃創設された函館教育協会においても、会長の村尾元長、副会長の村岡素一郎などの幹部が思齊会の中心メンバーとなっていて、前述した田中不二麿が意図した「地方教育者」による公立書籍館の有用性を啓蒙する役割を担ったものと思われる。また、4月に入り仮事務所を富岡町5番地の北溟社内に開設したが、その後9月13日には末広町98番地にある末広町協議所の2階に仮書籍縦覧所を設け、そこで会員は備え付けの書籍を自由に閲覧することが出来るようになったのである。