Lee J. Cobb Leo Jacoby néven született egy New York-i zsidó családban. Apja újságszerkesztő volt.
Már fiatalon kiderült, hogy Cobb zenei csodagyerek. Különösen tehetséges hegedű- és szájharmonikás volt. Cobb tinédzserként eltörte a csuklóját, és hegedűs karrierje véget ért. Tizenhét évesen Cobb Los Angelesbe szökött, hogy megpróbáljon színész lenni. Mivel Hollywoodban nem volt szerencséje, Cobb visszatért szülővárosába, hogy a City College of New York-ban könyvelési órákat vegyen. Ezzel párhuzamosan Cobb napközben rádiós drámákban játszott.
Cobb még tett néhány próbálkozást a színészettel, és a korai években kevés szerencsével járt mind Hollywoodban, mind a Broadwayn.
1935-ben Cobb csatlakozott a Group Theaterhez – egy politikailag baloldali színházi csoporthoz. A tagok közül sokan a McCarthy-korszakban feketelistára kerültek.
1937-ben Cobb játszott a North of the Rio Grande és a Rustler’s Valley című westernfilmekben.
Cobb legnagyobb áttörését 1949-ben érte el, amikor szerepelt Arthur Miller Az ügynök halála című művének eredeti broadway-produkciójában.
A hírneve után Cobbot is megvádolták kommunista hűséggel. Mivel 1953-ban behívták az Amerikaellenes Tevékenységek Bizottsága elé, Cobb neveket árult el, hogy megvédje karrierjét és családját.
Cobbot 1954-ben Oscar-díjra jelölték az On the Waterfront című filmben nyújtott alakításáért.
Cobb többek között az Exodus (1960), a Hogyan nyert a Nyugat (1962), a Flint emberünk (1966) és az L. B. Jones felszabadítása (1970) című filmekben játszott főszerepeket. Utolsó nagy hollywoodi filmszerepe az Ördögűzőben (1973) való részvétele volt.
Cobb 1976. február tizenegyedikén halt meg, miután szívrohamot kapott. A kaliforniai Los Angelesben található Mount Sinai Memorial Parkban temették el.