Desde su regreso a España, en el año 1969, hasta su nombramiento episcopal, en 1976, estuvo vinculado a la Universidad Pontificia de Salamanca. Comenzó como profesor de Derecho Público Eclesiástico. En 1971 obtuvo la Cátedra de Derecho Canónico Fundamental y en 1972 fue nombrado Vicerrector.

En estas mismas fechas, de 1972 a 1976, fue también el Consiliario de la Asociación Católica Nacional de Propagandistas. El año 1973 fue nombrado Consultor de la Sagrada Congregación para el Clero. Además, desde su fase preparatoria, en 1974, ejerció como "perito" en el Concilio Pastoral de Galicia.

El Papa Pablo VI le nombró Obispo auxiliar de Santiago de Compostela el 17 de septiembre de 1976 y titular de Gergi. En la sede compostelana permaneció hasta el año 1994. Fue Administrador Apostólico de mayo de 1983 a mayo de 1984, cuando fue nombrado por el Papa Juan Pablo II Arzobispo. Diez años después, el 28 de julio de 1994, fue promovido a Arzobispo de Madrid. En ambas sedes, sucedió al Cardenal Ángel Suquía Goicoechea. El 18 de enero de 1998 fue nombrado Cardenal, recibiendo el capelo cardenalicio de manos del Papa Juan Pablo II el 21 de febrero de ese mismo año. Es titular de la Iglesia de San Lorenzo in Damaso, habitualmente ocupada por un purpurado español.

Es miembro de las Congregaciones para la Educación Católica (1994), de los Obispos (1998) y del Clero (1998) y de los Pontificios Consejos para la Cultura (1998), para la Interpretación de los Textos Legislativos de la Iglesia (1998) y Cor Unum (2000). También es miembro, desde el 30 de marzo de 2004, del Tribunal Supremo de la Signatura Apostólica. En diciembre de 2004 fue nombrado miembro del Consejo de Cardenales para el estudio de los asuntos organizativos y económicos de la Santa Sede.

Ha publicado libros y numerosos trabajos científicos en revistas españolas y extranjeras sobre temas relativos a la fundamentación teológica del Derecho Canónico y los problemas de las relaciones Iglesia-Estado.