Il museo venne aperto nel 1976 come parte del Barbican Estate, mettendo in mostra collezioni precedentemente detenute dalle Corporazioni a Guildhall ed oggetti provenienti da altri musei quali il London Museum che era ubicato in Kensington Palace. Gli architetti Philip Powell e Hidalgo Moya hanno adottato un particolare metodo espositivo che prevede un percorso obbligato che mostra cronologicamente i reperti dalla preistoria ai giorni nostri.
Il museo consta di una serie di gallerie contenenti manufatti originali, modelli, foto e diagrammi con una grande enfasi sui ritrovamenti archeologici, le costruzioni e lo sviluppo urbano illustrato da materiale interattivo. Frammenti delle mura romane possono essere visti all’esterno del museo. La direzione del museo sta rivedendo l’intera collezione con l’intento di ampliare e migliorare l’esposizione. Questa ristrutturazione dovrebbe terminare nel 2009. La galleria preistorica “London Before London” e quella medioevale sono già state rinnovate e nel 2007 è stata aperta una nuova sezione sul grande incendio di Londra. Fra i pezzi più importanti figura la carrozza di stato del Lord Mayor of the City of London e la ricostruzione di una strada della Londra vittoriana.