Lee J. Cobb nasceu com o nome de Leo Jacoby para uma família judia em Nova Iorque. O pai dele era editor de jornal.
Em tenra idade, era claro que Cobb era um prodígio musical. Ele era um violino e tocador de harmónica especialmente talentoso. Cobb partiu o pulso na adolescência e a sua carreira de violino tinha acabado. Aos 17 anos de idade, Cobb fugiu para Los Angeles para tentar se tornar ator. Tendo tido azar em Hollywood, Cobb voltou à sua cidade natal para ter aulas de contabilidade na City College of New York. Ao mesmo tempo, Cobb atuou em dramas de rádio durante o dia.
Cobb deu mais algumas tentativas de atuação e, em seus primeiros anos, teve pouca sorte tanto em Hollywood quanto na Broadway.
Em 1935, Cobb entrou para o Group Theater – um grupo de teatro político de esquerda. Muitos dos membros eram negros durante a era McCarthy.
Em 1937, Cobb atuou nos filmes western North of the Rio Grande e Rustler’s Valley
A maior pausa de Cobb veio em 1949 quando ele estrelou a produção original Broadway de Arthur Miller’s Death of a Salesman.
Depois da sua fama, Cobb também foi acusado de fidelidade comunista. Sendo chamado ao Comitê de Atividades Não-Americanas em 1953, Cobb deu nomes para proteger sua carreira e sua família.
Em 1954, Cobb foi indicado a um Oscar por seu papel no filme On the Waterfront.
Cobb teve papéis importantes em Exodus (1960), How the West Was Won (1962), Our Man Flint (1966) e The Liberation of L.B. Jones (1970), entre outros. Seu último grande papel em Hollywood foi sua participação em O Exorcista (1973).
Cobb morreu no dia 11 de fevereiro de 1976, afte sofrendo de um ataque cardíaco. Ele está enterrado no Mount Sinai Memorial Park, em Los Angeles, Califórnia.