Lee J. Cobb föddes under namnet Leo Jacoby i en judisk familj i New York. Hans far var tidningsredaktör.
Sedan i unga år stod det klart att Cobb var ett musikaliskt underbarn. Han var en särskilt begåvad violin- och munspelare. Cobb bröt handleden som tonåring och hans violinkarriär var över. Vid sjutton års ålder rymde Cobb till Los Angeles för att försöka bli skådespelare. Eftersom han hade otur i Hollywood återvände Cobb till sin hemstad för att ta bokföringskurser vid City College of New York. Samtidigt spelade Cobb i radiodramer på dagarna.
Cobb gjorde ytterligare några försök till skådespeleri och hade under sina första år inte mycket tur både i Hollywood och på Broadway.
1935 gick Cobb med i Group Theater – en politiskt vänsterorienterad teatergrupp. Många av medlemmarna hamnade på svarta listan under McCarthy-eran.
1937 spelade Cobb i westernfilmerna North of the Rio Grande och Rustler’s Valley
Cobbs största genombrott kom 1949 när han spelade huvudrollen i den ursprungliga Broadway-uppsättningen av Arthur Millers Death of a Salesman.
Efter sin berömmelse anklagades även Cobb för kommunistiska lojaliteter. När Cobb kallades till kommittén för oamerikanska aktiviteter 1953 lämnade han ut namn för att skydda sin karriär och sin familj.
1954 nominerades Cobb till en Oscar för sin roll i filmen On the Waterfront.
Cobb spelade stora roller i bland annat Exodus (1960), How the West Was Won (1962), Our Man Flint (1966) och The Liberation of L.B. Jones (1970). Hans sista stora filmroll i Hollywood var hans medverkan i Exorcisten (1973).
Cobb dog den elfte februari 1976 efter att ha drabbats av en hjärtattack. Han är begravd i Mount Sinai Memorial Park i Los Angeles, Kalifornien.