明治4年より、政府の新貨鋳造事業で新貨幣為換方として地金回収と新旧貨幣交換の御用を命ぜられた三井は、その際「真成之銀行」を創立するよう大蔵省から勧奨された。このような事情を背景として、明治4年7月に三野村利左衛門が為換座三井惣頭八郎右衛門名代として、大蔵省あてに「新貨幣銀行願書」を提出した。
　その要旨は、三井一家の共同出資によって東京府下および各開港場において銀行を開業し、おいおいヨーロッパやアメリカなどにおける制度を参照して「真成確実之営業」を行ない、流通の便利をはかりたいということであった。このため正貨兌換証券を製造し、その発行限度は150万円ないし200万円で20円・10円・5円・1円の4種類とし、兌換準備として発行高の75パーセント相当の正貨を用意すること、そしてその兌換券を政府紙幣と同様に一般に流通させたいことを願い出た。前述のように当時、明治5年末の流通期限まで1年半を残すだけとなった大量の政府紙幣の整理方法として、イギリス流の中央銀行を創設し、その銀行券を発行しようとした。三井組の銀行設立計画は、まさにそれを具体化しようとするものであった。したがって三井の願書は、翌8月には大蔵省から認可され、4年8月には三井銀行が発足するかにみえた。しかし朝議は突然一変し、翌9月、大蔵省は認可を取消した。
　前述したように政府はアメリカ流の国立銀行制度を発足することになったが、三井組単独の銀行成立を認めず、小野組との共同による銀行設立を強く勧めた。三井組は、はじめ単独の銀行設立に固執したが、政府が官金取扱の取消しをたてに三井・小野共同の銀行設立を強要したため、やむなくこれに同意した。国立銀行条例がまだ発布されていない明治5年6月18日、三井組と小野組は連署をもって銀行設立願書を提出した(函館支店も予定されている)。しかし新銀行の建物をめぐって、三井組と政府との間で意見の対立があった。しかも政府は、8月5日に国立銀行条例を裁可する一方、為替方の廃止、官金預りの即納を命ずる辞令といっしょに、三井小野組合銀行(政府が勝手につけた名称－前掲『三井財閥史』近世・明治編)に大蔵省為換御用を命ずる辞令が渡された。そしてそのすぐあとで、その銀行に第一国立銀行を名のらせ、6年2月に三井組は為換座の名称廃止を命ぜられた。為換座御用の拝命こそ、維新以来、為替方3家として肩を並べてきた小野・島田両組に対して、三井組の圧倒的優位を誇示するシンボルであったので、三井組にとっては無念なことであった。
　第一国立銀行の設立によって打撃を受けたが、三井組は銀行の単独営業を執拗に追求した。明治3年以降、三井組は家政改革をすすめてきたが、一方では、新興部門の御用所(慶応2年、大元方直属で外国方御金御用達業務を目的に設立)が伝統的家業の1つである両替商を吸収して、明治7年5月、新しく「為替バンク三井組」という名称で出発することになった。
　一方三井組の経営戦略としては、官金取扱業務、とくに府県為替方の拡充につとめている。大蔵省の官金取扱が第一国立銀行に移されたのちにも、府県為替方の業務は、各府県の巨商豪商に委任されていたからである。この点で三井組は小野組に遅れをとっていて、明治5年4月に小野組が21県に及んだが、三井組は5県にすぎなく、北海道は進出していなかった。しかし、大蔵省為換方を免ぜられた三井組は、これに代わる官金取扱業務として府県為替方に着目し、6年7月には13県の御用をつとめた。函館、札幌に出張店を設置し、更にその他の北海道各地における官公署の公金取扱をも行なった。
　明治7年10月の公金預り高に対する抵当増額令(大蔵省達乙第11号)で小野組・島田組は破産したが、三井組は三野村利左衛門の努力で難局を乗切った。競争相手の小野組瓦解で第一国立銀行が危機を迎えたのに乗じて、同行を経営下に収めようと計画して、7年12月、三野村が渋沢栄一(第一国立銀行総監役)に改革策を提案した。しかし逆に渋沢は三井組の影響力を除去しようとした。
　こうして三井組は、再び単独で銀行設立の準備を進めることになった。明治8年3月に三井組を三井バンクと改称し、部内に対し三井バンクをもって全三井の中枢とする旨を通達した。これで宝永7(1710)年以来大元方の役割は否定され、三井バンク大元締役場がこれを引継いだ。8年7月には三井銀行の創立願書を東京府知事に提出し、ついで同年10月に三井銀行発起人と三井組役員は、三井組から新設三井銀行への事務引継ぎについて契約を結んだ。その中には各地方の三井組分支店は全て三井銀行の分出張店とすることにしている。政府は国立銀行の不振もあって、大勢は通常銀行設立を許す方向にあったので、9年5月23日付をもって許可の指令を与え、翌7月1日に無名会社(無限責任の株式会社。私盟会社ともいう)として開業した。なお『三井銀行八十年史』によれば、無名会社とは仏国商法のソシエテ・アノニーム(Société　Anonyme)の訳語で株式会社の意である。ただこのため三井銀の出資者である三井大元方。三井一族は株数に応じて無限責任を負い、銀行閉店に際し三井一族は共倒れになるおそれがあった。この危険性に備えて設立されたのが三井物産会社であった。
　いずれにしろ、わが国における最初の私立銀行が生まれた。北海道では明治9年に三井組の業務を継承して、函館一等出張店(内澗町1丁目1番地－現在の末広町)、札幌三等出張店を開設した。本道では国立銀行の設立があとなので、三井銀行は銀行の名称をもって金融の業務に従事したものの最初である(『三井銀行一〇〇年のあゆみ』、前掲『三井財閥史』近世・明治編、『北海道金融史』、『北海道における三井銀行のあゆみ』)。