A la mi-septembre 1875, on apprend que la famille Mallet vend l’hôtel de Boufflers et les jardins attenants. Ceux-ci se situent dans l’un des quartiers les plus animés de Paris. Henri Germain, le fondateur du Crédit Lyonnais saisit cette opportunité de rachat car il souhaite rendre la banque visible de tous. C’est une idée nouvelle pour l’époque car les banques sont habituellement discrètes. Contrairement à la haute banque traditionnelle, recevant une clientèle réduite dans des salons confidentiels, il s’agit ici de se montrer au vaste public dont on attend les dépôts.
Le conseil d’administration est convaincu de la pertinence de cette stratégie à l’instar d’Henri Bouthier qui écrit en septembre 1876 « Nous aurons par notre façade la plus vaste publicité qu’on puisse avoir ; vingt mille personnes passeront chaque jour devant nous et nous pourrons leur dire dans toutes les langues que nous leur offrons tous nos services. » Pour atteindre ce résultat, il faut que la réalisation architecturale de la nouvelle agence traduise la vision de la banque chère à Henri Germain. Le 4 mai 1876 Henri Germain signe alors le rachat de l’Hôtel des Boufflers.
L’inauguration aura lieu le 21 mars 1878, après 22 mois de travaux, en présence de Léon Gambetta. Les travaux sont tout juste terminés et Léon Gambetta voit sa redingote tâchée par de l’oxyde de zinc. Heureusement, cet incident n’entame pas l’admiration que lui inspire le bâtiment. La presse conviée est également séduite. Ainsi, Adrien Marx écrit le jour même dans les colonnes du Figaro « Je renonce à décrire cette salle des Pas-Perdus qui donnerait une salle de bal sans pareil grâce à ses 310 becs de gaz et son lustre du sommet à miroitements combinés. Les écus seuls doivent danser sous ce plafond lumineux !... »
Le Crédit Lyonnais y établit son siège central de 1876 à 1913, occupant progressivement tout l’espace entre le boulevard des Italiens, les rues de Gramont, de Choiseul et du 4 Septembre, sur une superficie au sol de 9 800 m². Le plan d’ensemble a été conçu à l’origine, pour loger tous les organes d’une grande banque. Au rez-de-chaussée sont installés presque tous les services qui sont directement en rapport avec la clientèle. L’Hôtel des Italiens est composé de cinq étages au-dessus du sol et de 4 niveaux de sous-sol, le dernier se situant à 27 mètres au-dessous du niveau de la mer. Même le toit a été aménagé et converti en un jardin de 700 m² de superficie, orné de plantes vertes et de fleurs.
C’était à l’époque le plus grand bâtiment civil de Paris, il fut éclairé à l’électricité dès sa mise en service, ce qui était alors à la pointe de l’innovation. A l’heure actuelle, LCL en conserve le cœur historique appelé « Hôtel des Italiens ».