I když existují dřívější známky britských osad, první větší obcí se stalo Londinium, které v roce 43 založili Římané. Tato oblast byla však po útoku keltského vojska, jemuž velela královna Boudiccy, vypálena v roce 61. Londinium bylo obnoveno a dobře prosperovala a také tato osada významově překonala Cochester. Ve 2. století zde žilo více než 60 tisíc obyvatel a v této době zažívala osada největší rozkvět.
Okolo roku 600 byla vybudovaná nová osada s názvem Lundenwich, kterou založili Anglosasové. Ležela asi 1 km proti proudu od Londinia. V ústí řeky Fleet podle dochovaných informací nejspíše existoval rybářský a obchodní přístav. Psal se rok 851 a na město Lundenwich zaútočili Vikingové. Město jimi bylo vypáleno a dobyto. Král Alfréd Veliký uzavřel s Vikingy mír a město nechal přestěhovat za římské hradby. Na trůně se střídali anglosaští králové a město zažívalo rozkvět, stalo se z něj centrum mezinárodního obchodu a také politiky. Vikingové se svými občanskými útoky však nepřestali a svého dosáhli v roce 1013, kdy dánský král Canute město dobyl a k útěku donutil tehdejšího anglického krále Ethelreda II. Na trůn nastoupil Eduard III. a zasloužil se obnovením Westminsterského opatství a Westminsterského paláce.
Vilém Dobyvatel zvítězil v bitvě u Hastingsu v roce 1066 a byl ve stejném roce na Vánoce korunován ve zrekonstruovaném Westminsterském opatství. Vilém přiznal obyvatelům města zvláštní privilegia. Na jihovýchodní části města nechal postavit hrad, který mu umožňoval držet kontrolu nad celým městem. Vilém II. nechal v roce 1097 postavit Westminster hall stojící nedaleko opatství. Westminster hall sloužila ve středověku jako královská rezidence. Westminster se stal sídlem královského dvora a vlády, naopak City se stalo centrem obchodu. Obě tyto oblasti se postupně rozšiřovaly a zvětšovaly, staly se tedy základem moderního centra Londýna. Ve 12. století se tyto dvě části staly hlavním městem místo Winchesteru.
V roce 1100 žilo ve městě 18 tisíc obyvatel, ale tento počet se v roce 1300 zvýšil na celých sto tisíc obyvatel. 14. století bylo pro Londýn jedno z nejhorších období, protože město zasáhla morová epidemie neboli Blach Death. Mor napadl třetinu obyvatel a způsobil jejich smrt. Mor se však objevil i v letech 1665 a 1666. Další katastrofou, které město zasáhlo, byl velký požár. Ten zničil velkou část City, ale nebyly zjištěny žádné ztráty na životě. Obnova poškozené části města trvala více než 10 let. Došlo k významné stavitelské vlně a byly zde postaveny budovy různých architektonických stylů. Působil zde architekt Christopher Wren, který navrhl například Katedrálu Svatého Pavla.
Od roku 1831 do 1925 bylo město Londýn největším na světě. Jeho rozvoj byl doplněn i první železnicí. Železniční síť se rozrůstala velmi rychle a dopravní systém byl v roce 1863 doplněn metrem. V Londýně vzniklo první metro na celém světě. Protože byly velké problémy s plánováním dopravní sítě, řešení těchto problémů měla na starost v letech 1885 až 1889 instituce Metropolitian Board of Works. Tato instituce byla později nahrazena správním orgánem, který byl volen Radou hrabství Londýn.
V důsledku bombardování bylo během druhé světové války zabito více než 30 tisíc obyvatel města. Také bylo zničeno velké množství budov. Když se město po válce začalo rekonstruovat, byly používány různé architektonické styly, které změnily celý charakter Londýna. Nastal rok 1965, kdy došlo k rozšíření hranic města, a celá oblast byla nazvána Velký Londýn. Po válce do města přicházeli lidé z různých částí světa, proto zde dnes žije mnoho etnických skupin, z nichž největší procento zaujímají bílí.
Ekonomický rozvoj, který nastal v 80. letech 20. století, vrátil Londýnu mezinárodní význam a hlavní město se stalo opět centrem mezinárodního obchodu. Město začalo navštěvovat i mnoho turistů a jeden z hlavních příjmů města tvoří právě turistický ruch.