Lee J. Cobb werd geboren onder de naam Leo Jacoby in een Joodse familie in New York. Zijn vader was een krantenredacteur.
Op jonge leeftijd was het al duidelijk dat Cobb een muzikaal wonderkind was. Hij was een bijzonder getalenteerde viool- en mondharmonicaspeler. Cobb brak als tiener zijn pols en zijn vioolcarrière was voorbij. Op zeventienjarige leeftijd vluchtte Cobb naar Los Angeles om te proberen acteur te worden. Omdat hij in Hollywood geen geluk had, keerde Cobb terug naar zijn geboortestad om boekhoudlessen te volgen aan het City College of New York. Tegelijkertijd acteerde Cobb overdag in radiodrama’s.
Cobb deed nog een paar pogingen tot acteren en had in zijn beginjaren weinig geluk in zowel Hollywood als op Broadway.
In 1935 sloot Cobb zich aan bij Group Theater – een politiek linkse theatergroep. Veel van de leden werden tijdens het McCarthy-tijdperk op de zwarte lijst gezet.
In 1937 speelde Cobb in de westerns North of the Rio Grande en Rustler’s Valley
Cobbs grootste doorbraak kwam in 1949 toen hij de hoofdrol speelde in de originele Broadway-productie van Arthur Millers Death of a Salesman.
Na zijn roem werd Cobb ook beschuldigd van communistische loyaliteiten. Cobb werd in 1953 opgeroepen voor het Un-American Activities Committee, maar gaf namen prijs om zijn carrière en zijn gezin te beschermen.
In 1954 werd Cobb genomineerd voor een Oscar voor zijn rol in de film On the Waterfront.
Cobb speelde grote rollen in o.a. Exodus (1960), How the West Was Won (1962), Our Man Flint (1966) en The Liberation of L.B. Jones (1970). Zijn laatste grote Hollywood-filmrol was zijn deelname aan The Exorcist (1973).
Cobb overleed op elf februari 1976, nadat hij een hartaanval had gehad. Hij ligt begraven in het Mount Sinai Memorial Park in Los Angeles, Californië.