Jeff nasceu em Olean, Nova Iorque, e se mudou para Buffalo quando tinha 10 anos, aonde ele fez o ensino médio na Escola Father Baker. Tem 12 irmãos e saiu de casa com 17 anos.

Ele foi ajudante de pescaria, dirigia uma ambulância na Alemanha, viveu em uma fazenda coletiva em Israel e passou algum tempo na Índia. Depois, retornou a Nova Iorque aonde estudou com Myra Rastova, começou a trabalhar em teatros e em novelas.

Fahey começou a atuar quando ganhou uma bolsa de estudos para dançar no Joffrey Ballet e isso o levou a atuar em teatros pelo país, e na Broadway. Ele teve seu primeiro papel principal na televisão interpretando Gary Corelli na novela "One Life to Live". Em 1985, ele recebeu seu primeiro personagem principal em filmes, interpretando o vilão Tyree no filme "Silverado".