名称からは台地と思われるが、一〜三丁目間には低地も包含している。一七世紀半ばには現一〜三丁目と四〜五丁目の間の目黒通りの両側に町屋が形成されていき、二丁目西辺には白金猿町と瑞聖寺門前が置かれていた。
明治二年（一八六九）には瑞聖寺門前が台町に統合され、同五年には台町の丁目を一丁目と二丁目に整理し、武家地・寺社地にも町村名を設置した。このとき現二丁目西辺の武家地は二本榎西町となったが、明治一一年には台町・猿町は芝区台町・芝区猿町となり、他は荏原郡のまま今里村は白金村に合併、同二二年に白金村が芝区に編入された後、同二四年に旧今里村の字（あざ）今里玉縄を白金今里町として設定した。
明治以後、町域は徐々に住宅地として市街化されていったが、一丁目の海軍埋葬地、明治学院の設立、五丁目の海軍火薬庫、海軍大学校、朝香宮（あさかのみや）邸などへの推移、四丁目の伝染病研究所の設置などが目立った変化で、大規模邸宅も見られた。現三〜四丁目の目黒通り沿いの商店街化は戦前からの現象であるが、戦後もその傾向は進み、国道一号である桜田通りに面する二丁目西辺のビル化も進行していった。平成一二年（二〇〇〇）には地下鉄三田線と南北線が乗り入れる白金台駅が開業している。