鎮台の設置と徴兵制度の確立によって近代陸軍の整備が進む一方で、明治政府が進める近代化政策の影響もあり、士族たちは家禄をはじめとする様々な権益を失っていった。こうした状況に不満を抱く、いわゆる不平士族の反乱が明治七年(一八七四)の佐賀の乱を皮切りに次々に発生した。佐賀の乱では江藤新平や島義勇が、明治九年に発生した萩の乱では前原一誠がそれぞれ中核的人物となるなど、元政府高官が反乱に加わっている。いずれの反乱も政府が迅速に対応し、陸軍部隊を派兵したことなどもあり、比較的早期に鎮圧されている。
不平士族の反乱が相次ぐなかでその動向が注目されたのが、明治六年の政変で江藤や板垣退助らとともに政府を去った西郷隆盛であった。下野した西郷は鹿児島で隠棲生活を送っていたが、士族層に対する大きな影響力は政府の警戒するところとなった。西郷は鹿児島に陸軍士官の養成を目的とした私学校を設立したが、鹿児島県令であった大山綱良(つなよし)の全面的支援を受けた。やがて、西郷とともに下野した桐野利秋や篠原国幹(くにもと)、村田新八(しんぱち)などが中心となって私学校党と呼ばれる政治勢力となり、鹿児島県政に大きな影響力を与えるようになっていく。
なお、鹿児島県の動向を政府が警戒していた背景には、西郷や私学校党の動向のみならず、軍需生産上の問題も関係していた。陸軍が制式採用したスナイドル銃は、真鍮(しんちゅう)製の薬莢(やっきょう)を用いた銃弾を使用しており、その銃弾は、薩摩藩が幕末にイギリスより製造機械を輸入して設立した弾薬工場が、国内で唯一の生産工場であった。同工場は陸軍省が管轄する砲兵属廠(ぞくしょう)となっていたが、私学校党によって主力小銃の弾薬供給を絶たれることを警戒し、政府はこの製造施設や弾薬を大阪に搬出した。
明治一〇年一月、警視庁大警視の川路利良が私学校内偵のために派遣した中原尚雄ら二四名の警官をめぐって西郷暗殺の疑念にとらわれていた私学校党は、政府による弾薬の製造施設や弾薬の搬出に憤激し、県内各地の弾薬庫を襲撃して弾薬の確保を行うなど、政府との対決姿勢を強めた。
私学校党に拘束され、拷問を受けた中原が西郷暗殺を自白したとされ、激昂した私学校党は西郷を擁(よう)して挙兵を決意し、二月六日より軍の編制を開始した。こうしていわゆる西郷軍が結成され、二月一五日に熊本に向けて進軍を開始した。
一方、政府は海軍大輔川村純義を鹿児島に派遣し、西郷との面会を試みたが果たせず、川村は県令の大山から私学校党の進発の情報を得たため、川村の東京帰還後の報告を待って、二月一九日に征討軍の派遣を決定する。総司令官である征討総督には有栖川宮熾仁(ありすがわのみやたるひと)親王が任ぜられ、総督を補佐する参軍には、陸軍で長州閥の山縣有朋と海軍で薩摩閥の川村の二人が任ぜられた。
西南戦争では、約三万名の西郷軍に対して、政府は約七万名を投入し、激戦が繰り広げられた。西郷軍の抜刀突撃に対抗するために、鎮台兵や屯田兵だけでなく、警視庁の巡査や士族からの志願兵を中心に編制された新撰旅団などが投入されたことはよく知られている。九月二四日の西郷の自刃により、西南戦争は半年あまりの幕を下ろしたが、西郷軍約六八〇〇名、政府軍約六四〇〇名の戦死者を出した、最大かつ最後の士族反乱となった。