Urodził się 20 sierpnia 1921 r. w Łopienniku Górnym k. Krasnegostawu. Maturę zdawał w czasie II wojny światowej, jako eksternista. W 1943 r. wstąpił do Lubelskiego Seminarium Duchownego, które w tym czasie mieściło się w Krężnicy Jarej.

W 1948 r. został wyświęcony na kapłana i rozpoczął pracę jako wikariusz parafii Nałęczów. Rok później rozpoczął studia na Wydziale Teologicznym KUL, które zakończył doktoratem z teologii dogmatycznej. W 1952 r. rozpoczął pracę na KUL jako młodszy asystent przy Katedrze Teologii Dogmatycznej na Wydziale Teologicznym, równocześnie prowadził zajęcia w Lubelskim Seminarium Duchownym. Od 1959 r. był wicerektorem tego seminarium.

W 1966 r. został mianowany sufraganem lubelskim, nie zrezygnował jednak z pracy naukowej. W 1969 r. habilitował się z zakresu teologii dogmatycznej, był kierownikiem Katedry Teologii Dogmatycznej, od 1978 r. profesorem nadzwyczajnym, a następnie profesorem zwyczajnym teologii (1988).

Był kanonikiem gremialnym kapituły katedralnej w Lublinie, a po śmierci bp. Piotra Kałwy wikariuszem kapitulnym. W 1975 r. został mianowany biskupem lubelskim. Na hasło przewodnie swojego posługiwania wybrał słowa: „In Te Domine speravi” (Tobie, Panie, zaufałem), zaczerpnięte z hymnu „Te Deum”. Z racji pełnionego urzędu bp Pylak został równocześnie Wielkim Kanclerzem KUL.

W 1992 r., w wyniku reformy administracyjnej Kościoła w Polsce, św. Jan Paweł II podniósł diecezję lubelską do rangi archidiecezji i ustanowił metropolię lubelską, a bp Pylak został jej pierwszym arcybiskupem metropolitą. Paliusz metropolity przyjął w Bazylice św. Piotra w Rzymie z rąk Papieża Polaka.

Zgodnie z wymogiem prawnym po ukończeniu 75. roku życia, w 1996 r., złożył rezygnację z urzędu. Zmarł 6 czerwca 2019 r. w swoim mieszkaniu w Domu Księdza Seniora w Lublinie.