Odilo Pedro Scherer è nato il 21 settembre 1949 a Cerro Largo, nella regione di Rio Grande do Sul, in Brasile, da genitori di origini tedesche.
Dopo aver frequentato il Seminario a Curitiba, ha studiato all’Università Pontificia Cattolica di Paranà e all’Università Pontificia Gregoriana di Roma. Ordinato sacerdote dall’arcivescovo Armando Cirio il 7 dicembre 1976, nei due anni successivi è stato direttore e insegnante al Seminario diocesano di Cascavel; dal 1979 al 1982, invece, ha insegnato nel Seminario diocesano di Toledo. In seguito, Scherer ha insegnato teologia all’Instituto Teologico Paulo VI di Toledo; dopo essere tornato a Cascavel, al Centro Interdiocesano de Teologia, ha insegnato all’Universidade Estaduale do Oeste do Paranà fino al 1994.
Dal 1994 al 2001 ha preso parte alla Congregazione dei Vescovi nella Curia romana, e durante il tempo libero ha servito come pastore e cappellano. Il 28 novembre 2001 è stato nominato Vescovo ausiliario di San Paolo e Vescovo titolare di Novi, ricevendo la consacrazione episcopale dal cardinale Claudio Hummes, arcivescovo della metropoli, il 2 febbraio 2002.
Il 21 marzo 2007 è succeduto proprio al cardinale Hummes come arcivescovo di San Paolo. Nello stesso anno è stato creato cardinale nel Concistoro del 24 novembre, ricevendo il titolo di Sant’Andrea al Quirinale.