Le courant de gauche de Dossetti au sein de la Démocratie chrétienne abandonne le gouvernement en 1949. En 1951, La Pira accepte d’être la tête de liste de la DC aux élections municipales des 10 et 11 juin après avoir subi de fortes pressions exercées notamment de la part de certaines autorités religieuses. Le projet de donner une réponse concrète et globale aux nouvelles priorités politiques, surtout après son expérience au gouvernement qui a suivi celle qu’il a eu au sein de l’Assemblée constituante, est décisif pour qu’il accepte.
Après avoir recueilli plus de 19 000 voix sur son nom et à la suite de la victoire de la coalition quadripartite (DC, PLI, PRI, PSDI), La Pira est élu pour la première fois maire de Florence. Il prend le poste de Mario Fabiani qui avait dirigé un conseil municipal de gauche au cours des quatre années précédentes.
En 1952, La Pira devra démissionner de sa charge de parlementaire. Pour l’exclure du Parlement, une loi ad hoc est approuvée qui établit l’incompatibilité entre le mandat parlementaire et la fonction de maire d’une grande ville. Le 15 décembre 1952, Giovanni Gronchi, le président de la Chambre écrit à La Pira pour l’inviter à choisir l’une des deux fonctions. La réponse de La Pira est contenue dans un télégramme lapidaire : « Devant l’alternative illégitime entre Montecitorio et Florence face à laquelle la Chambre m’a placé, je choisis Florence, la perle du monde. »
Giorgio La Pira siègera encore à la Chambre de 1958 à 1960 et sera réélu député en 1976, un an avant de mourir. Pour le reste, il n’occupera plus aucune charge politique au niveau national. Il entretiendra par contre des relations plutôt difficiles avec les centres du pouvoir à Rome et avec les dirigeants de la DC. Ses polémiques avec don Luigi Sturzo(voir : Références/Sturzo/Sturzo), le « père spirituel » de la Démocratie chrétienne sont notamment célèbres.