江戸開城から一〇日後の四月二一日、大総督有栖川宮は諸道先発総督・参謀らを従えて江戸城に入った。これで、徳川将軍歴代の居城は、東征大総督府となり、天皇政府の権威がゆき渡りそうなのに、江戸の内外は依然として騒々（そうぞう）しかった。すでに慶喜が恭順を決意する前後から、旧幕府軍のうちには、江戸を脱出して、地方でゲリラ戦を企てるものが続出したのは前述の通りである。
これらの脱走兵のうち、江戸に結集したのが彰義隊である。一橋家時代から慶喜に従っていた家臣たちは、その屈辱をすすぎたいという念願で、二月中旬以降しばしば会合を重ねて団結を固めた。その目的とするところは、要するに「薩賊討滅」であった。二月二三日に隊名を彰義隊と定め、頭取に渋沢成一郎、副頭取には天野八郎が選ばれ、浅草の東本願寺を屯所とした。
〔註〕
初期の幹部には、農家出身で一橋家の家臣となったものが多い。
渋沢成一郎 一橋家臣。武州榛沢（はんざわ）郡（今の大里郡のうち）血洗（ちあらい）島の出身。当時洋行中の渋沢栄一と一橋家に仕官。
天野八郎 上州甘楽（かんら）郡磐戸村の出身。名主の子。
須永於菟之輔（おとのすけ） 上州新田郡成塚村の出身。
伴（ばん）門五郎 武州足立郡蕨宿名主の子。
尾高惇忠（あつただ）（藍香と号す） 武州榛沢郡下手計（てばか）村名主の子。榛沢六郎と称す。若くして経史に通じ、郷里の子弟を教授、渋沢栄一もその門をくぐった。水戸学に心酔した。須永・成一郎・栄一の三人は従兄弟の関係にある。
初期の幹部には、農家出身で一橋家の家臣となったものが多い。
渋沢成一郎 一橋家臣。武州榛沢（はんざわ）郡（今の大里郡のうち）血洗（ちあらい）島の出身。当時洋行中の渋沢栄一と一橋家に仕官。
天野八郎 上州甘楽（かんら）郡磐戸村の出身。名主の子。
須永於菟之輔（おとのすけ） 上州新田郡成塚村の出身。
伴（ばん）門五郎 武州足立郡蕨宿名主の子。
尾高惇忠（あつただ）（藍香と号す） 武州榛沢郡下手計（てばか）村名主の子。榛沢六郎と称す。若くして経史に通じ、郷里の子弟を教授、渋沢栄一もその門をくぐった。水戸学に心酔した。須永・成一郎・栄一の三人は従兄弟の関係にある。
その後、江戸開城に憤慨する旗本や、諸藩の脱走兵がぞくぞく彰義隊に参加し、江戸開城後の閏四月頃には、総勢二千あるいは三千人といわれるほどになった。そこで、徳川の家政を管理している松平斉民（なりたみ）（前津山藩主・十一代将軍家斉の子）は、これを懐柔しながら利用しようとして、彰義隊を公認し、江戸の警察行政を委任した。これによって彰義隊は、大慈院で謹慎している慶喜の護衛を名目として、屯所を上野の寛永寺に移した。今や江戸府内の一大勢力となったのである。
そのうちに、四月一一日江戸は無血開城、慶喜は上野大慈院を出て、水戸へ退去した。こうなると、彰義隊は目的の大半を失った。しかし反って、独立の姿勢を強くし、過激の勢いを増した。慶喜の屈辱をすすぐのが純粋の目的だった最初の頃とは、隊内の空気が一変し、新政府軍に対する敵意だけが高まってきた。また、彰義隊が多数化すると共に、内部の意見にも対立が起こった。最初、中心になって結盟した一橋家に連なる人々と、市政の剣客で元は徳川氏と関係がなかった天野八郎と、頭取・副頭取の間で反目が生じて、遂には和解できないものとなった。渋沢は、江戸は到底、新政府軍と決戦の地ではなく、日光山に退いて、これを守るべしと唱え、金穀を準備するために、府下の豪商を呼出して、徴発を命じた。これに対して、天野八郎を首長とする過激な隊士たちは、「渋沢は勝手に市内の豪商から軍資金を募った」といって排斥した。そして渋沢の頭取を罷免した。渋沢は遂に彰義隊を脱退せざるを得ない境地に達した。去るに当って彼は、新政府軍に組しないこと、降伏しないことの二つを約束したにも拘わらず、天野派は渋沢を暗殺しようと執拗に繰返した。
渋沢成一郎や尾高惇忠らの脱退があってもなお、彰義隊は盛んに勢力を加えていた。彼らは市中を横行し、新政府軍とみれば喧嘩を吹きかけ、田舎侍と罵倒（ばとう）した。このとき新政府軍には彰義隊を鎮圧する気力はなく、ただ傍観するだけであった。
閏四月五日、軍防事務局判事の大村益次郎が京都から下向した。彼は彰義隊の暴状と新政府軍の無力をみて大いに慎り、自ら新政府軍を指揮して、一挙に討伐しようと強硬に主張した。東征大総督はその議をいれ、五月一五日、大村の指揮で、薩摩・長州・肥後・備前・筑前・肥前ら十数藩の兵二千人をもって、上野を完全に包囲し、本郷の台地に大砲を配置した。午前一〇時頃から午後五時頃までの激戦の末、彰義隊を潰滅させた。このとき彰義隊の兵力は約千人に減っていた。抜け出したものが半数以上もいたわけである。