Ele entrou para a Marinha em 1943, tendo servido no Pacífico Sul, onde foi ferido.

Estreou como ator teatral off-Broadway no final da década de 1940 na peça Roadside. No cinema, sua estréia foi em 1951, com Agora Estamos Na Marinha.

Em Os Corruptos, de 1953, ele protagonizou uma seqüência que marcou época quando seu personagem joga café fervendo na personagem da atriz Gloria Grahame, desfigurando-lhe o rosto.

Ao interpretar personagens militares, e foram vários, Lee valia-se de sua experiência na Segunda Guerra Mundial, onde foi ferido na coluna e ficou hospitalizado por vários meses. Começou a ganhar papéis de maior destaque com o sucesso obtido pelos westerns que fez com John Wayne no início da década de 1960, O Homem Que Matou O Fascínora e Comancheros.

Ganhou o Oscar de melhor ator em 1965, por Dívida de Sangue, que fez ao lado de Jane Fonda. Nesse filme ele faz duplo papel: o do pistoleiro bom, eternamente bêbado e que ajuda a personagem de Fonda, e o pistoleiro mal.
Ele morreu aos 63 anos, vitimado por um ataque cardíaco, e estava no terceiro casamento.

Filhos: Christopher Marvin, Claudia Marvin, Courtenay Marvin, Cynthia Marvin
Cônjuge: Pamela Marvin (de 1970 a 1987), Betty Ebeling (de 1951 a 1967)