近世まですべて芝浦沖の海上であった場所である。
幕末期の嘉永六年（一八五三）に海防上の要請から砲台地として築造された第三台場と第六台場が埋め立ての最初であり、これらが現在の台場一丁目の一部となっている。同年に第一台場、第二台場、第五台場も完成していたが、第四台場と第七台場は計画完成に至らないまま中止となった。これらの台場は明治八年（一八七五）には陸軍省所管となって芝区に所属したが、同三八年に至ると第一・二・四・七砲台地は陸軍省所管、第三・六台場は内務省、第五台場は官有地としてそれぞれ芝区大字品川沖一〜七番地として登記表示されることとなった。明治四二年には造船所として使われていた第四台場が内務省へ移管、大正元年（一九一二）には東京府から緒明（おあけ）圭造に払い下げられ「緒明造船所」となった（その後、第一台場も払い下げられた）。第三・六台場はその後、大正一三年に東京府史蹟に仮指定、同一五年に国指定史蹟となった。昭和二年（一九二七）には第三台場を台場公園として公開、同九年には第二・五台場も東京市に払い下げられた。未完成の第四台場は埋め立てが進行し、昭和三〇年四月一日に品川区に編入された。
一方、高輪地先では、明治三年に現在の二丁目西部に鉄道線路着工とともに海上に築堤が出現した。当初は高輪との間に海を残していたが同三〇年までに埋め立てが進み、高輪南町となった。その後、東方海上へ埋め立てが進み、昭和四年に完成した土地が同八年に芝区に編入され高浜町が設置された。これらが現在の一〜二丁目である。現三丁目地域と四丁目の北部地域は昭和九年埋立着工、同一七年完成、同一八年芝地区に編入、海岸通五・六丁目となった。また、現四丁目南部は同一〇年着工、中部は同一一年着工、両者ともそれぞれ一八年、一九年に完成し、海岸通六丁目に編入された。
戦後、港区の発足に伴いこれらの土地は芝品海砲台・芝高浜町・芝海岸通となったが、昭和二六年から品川埠頭となる海上埋め立てが開始され、第一・五台場はそこに包含された。昭和四〇年の住居表示の際にこれらが港南一〜四丁目となった。品川埠頭の完成は昭和四二年で、同年港区に編入され、第三・六台場とともに港南五丁目となった。
一九九〇年代から品川駅東口の開発が行われ、超高層の大型複合ビルである品川インターシティフロントが平成一〇年（一九九八）に竣工、その後も東西自由通路が作られるなど駅周辺の環境が次々に整備されていった。平成一五年には品川駅が新幹線の停車駅となったことで企業の進出がさらに進み、急速にビジネス街として発展を遂げることとなった。令和二年（二〇二〇）には二丁目に新たな山手線・京浜東北線駅である高輪ゲートウェイ駅が開業し、現在でも周辺の開発が続いている。