降伏の上表文を受け取った明は、日本軍の朝鮮半島からの完全撤退、勘合貿易の不許可を決定し、秀吉を日本国王に任命することにした。慶長元年(一五九六)九月、明の冊封使が来日し、大坂城で秀吉に拝謁した。しかし、秀吉が提示した七カ条の条件についての回答は全くなく、交渉の内情を知った秀吉は激怒して再び朝鮮への出兵を命じた。
　慶長二年二月、秀吉は朝鮮再派兵の陣立てを定め、一四万余からなる動員計画と諸将の部署割当を発表した。これは、割譲予定地を占領し、講和条件の実現を要求することを目的とするものであった。
　七月には総大将の小早川秀秋が釜山に上陸し、八月には全軍を右軍と左軍に分けて北上を開始した。黒田長政は毛利秀元を大将とする右軍に属し、慶尚道を北上した。九月初め右軍は全羅道全州から、砺山・恩津・扶余と忠清道を進み、九月七日には忠清道稷山で黒田長政の先鋒が明の大軍と衝突し、稷山の戦いが始まった。黒田長政・毛利秀元は直ちに救援に駆けつけて明軍と戦ったが、決着はつかなかった。
　稷山の戦いのあと、右軍は京畿道竹山境へ侵入したが、それを北限として清州から公州に兵を返し、慶尚道を南下した。このように、日本軍は慶尚道と全羅道南岸へ兵を移動させ、しだいに倭城に追いつめられるようになった。
　黒田長政は洛東江を遡った梁山城に入った。梁山城は毛利秀元・小早川秀秋の武将らが築いた城で、文禄二年に伊達政宗が入っていたのを引き継いだ。蔚山城の普請が完成すると加藤清正がここに入り、長政は清正が蔚山城普請の間に居城していた西生浦城へ移った。
　一二月末になると明・朝鮮の連合軍が加藤清正・浅野幸長が籠もる蔚山城を包囲した。城内の日本軍は兵糧や水が欠乏し、鉄砲の玉薬不足に悩まされ、投降する日本兵が相次いだ。毛利秀元・黒田長政・毛利勝信(森吉成)らの援軍が到着して、翌年正月四日に明軍は撤退したが、蔚山の籠城は日本軍に衝撃を与え、蔚山城と順天城を放棄する戦線縮小論が出た。しかし石田三成はこれを拒否し、さらに蔚山救援の際に蜂須賀家政や黒田長政・加藤清正らが敗走する明・朝鮮軍を追撃しなかったと秀吉に報告したため、長政らは秀吉の逆鱗に触れ、譴責を受けることになった。
　同年八月、秀吉は病気のため死亡し、泥沼化した朝鮮出兵はこれを機に終結がはかられることになった。朝鮮からの撤兵は難航を極めたが、一一月には全軍の帰還が完了した。