La Pira, ben prima del Concilio Vaticano II, ha sviluppato una profonda riflessione nel settore ecumenico. Il suo pensiero si muoveva nelle due direzioni distinte, indicate poi dal Concilio: il dialogo interreligioso e quello all’interno delle chiese e comunità cristiane.
I Padri conciliari decisero di dedicare al dialogo due documenti diversi: la dichiarazione Nostra Aetate (sulle relazioni con i non cristiani), e il decreto Unitatis Redintegratio (sulle chiese e comunità cristiane).
La Pira scrisse una serie di lettere, a partire dal 1959, ai capi delle comunità cristiane non cattoliche del mondo intero. Da queste lettere emerge con chiarezza il suo modello di ecumenismo. Una scelta fatta di fronte ai diversi possibili modelli di unità presenti nella teologia cattolica degli anni pre-conciliari. Il modello scelto da La Pira è quello della preghiera. Questo “metodo” sarà poi quello scelto dal Concilio.
Assunsero un valore particolare i suoi colloqui proprio sul tema del Concilio con il Patriarca e il Metropolita di Mosca, con il Patriarca Athenagora (che inviò, tramite La Pira, un significativo messaggio a Papa Giovanni ), con i Patriarchi cattolici e separati del Cairo, di Alessandria, di Gerusalemme, con la Chiesa greco-ortodossa di Rodi.
Tutta la sua visione del Concilio è in chiave ecumenica: unità delle Chiese, unità del mondo (si veda anche la sezione Chiesa e Concilio); è questa la sua chiave di lettura della Mater et Magistra.
Importante è anche sottolineare la vicinanza e il dialogo di La Pira con il mondo ebraico e quello musulmano. La Pira fondò a Firenze, negli anni ’50, l’amicizia ebraico-cristiana; si fece anche promotore, con Louis Massignon, del dialogo con l’Islam.