Conway je preminuo u srijedu u 78. godini, a vijest je za Hollywood Reporter potvrdio njegov menadžer.
Glumiti je počeo u 24. godini na Broadwayu, a neke od ranijih uloga ostvario je u predstavama One Flew Over the Cuckoo’s Nest i Elephant Man. Prvu veću filmsku ulogu dobio je 1972. u filmu Slaughterhouse-Five.
Tokom dugogodišnje karijere nastupio je u brojnim filmovima i serijama, od kojih su najpoznatije uloga u zatvorskoj drami Oz te u NBC-jevim serijama The Black Donnelllys i The Bronx is Burning. Pojavio se i u seriji Star Trek: Next Generation.
1987. režirao je film The Sun and the Moon.