一方家康の東下を見さだめた石田三成は、慶長五年七月一一日越前敦賀城主大谷吉継の援助を得て、毛利輝元を総大将に、家康打倒の挙兵をした。一七日には長束・増田・前田の三奉行連署で、家康の弾劾状を発給させ、これに檄文を添えて諸大名に送り糾合をはかった。これに応じて大坂に参集した大名は、毛利一門の毛利秀包・吉川広家・小早川秀秋・宇喜多秀家・生駒親正・脇坂安治・蜂須賀家政・長曽我部盛親・小西幸長・島津義弘ら総勢九万三七〇〇人に及んだ。上杉景勝や常盤の佐竹義宣らと家康をはさみうちにする策をすすめた。三成ら西軍は、七月一九日家康の留守居鳥居元忠らの守る伏見城の攻撃を開始し、東西決戦の火蓋が落とされた。
家康が三成らの挙兵の報に接したのは七月二五日であった。諸大名を小山の陣に召集して上方の異変を告げ軍議を開いた。始めは、去就は各人に任せるとしたが、福島正則の意見に従い打倒三成に決し、さらに遠江掛川城主山内一豊の主唱により東海道に領地を有する者は、これを家康に明け渡すこととした。
浅野長政・福島正則・黒田長政ら秀吉取り立ての大名を含む先発軍は、尾張清州付近に集結し、八月二二日岐阜城攻撃を開始し、犬山城を落し合渡にいた西軍を破った。沢渡まで出陣していた三成は慌てて大垣に戻った。一方八月四日小山から江戸に向った家康は、江戸城で外交作戦を展開しつつ、形勢を観望していたが、二四日二男結城秀康を会津の備えとして宇都宮にとどめ、秀忠軍を宇都宮から東山道筋を経て西上させた。家康自身は九月一日江戸を発して東海道をすすんだ。