Lee J. Cobb nació con el nombre de Leo Jacoby en el seno de una familia judía de Nueva York. Su padre era editor de periódicos.
Desde muy joven estaba claro que Cobb era un prodigio musical. Tenía un talento especial para tocar el violín y la armónica. Cobb se rompió la muñeca cuando era adolescente y su carrera como violinista se acabó. A los diecisiete años, Cobb huyó a Los Ángeles para intentar convertirse en actor. Al no tener suerte en Hollywood, Cobb regresó a su ciudad natal para tomar clases de contabilidad en el City College de Nueva York. Al mismo tiempo, Cobb actuaba en dramas radiofónicos durante el día.
Cobb hizo algunos intentos más de actuar y, en sus primeros años, tuvo poca suerte tanto en Hollywood como en Broadway.
En 1935, Cobb se unió al Group Theater -un grupo de teatro políticamente de izquierdas-. Muchos de los miembros fueron incluidos en la lista negra durante la era McCarthy.
En 1937, Cobb actuó en las películas del oeste North of the Rio Grande y Rustler’s Valley
La mayor oportunidad de Cobb llegó en 1949, cuando protagonizó la producción original de Broadway de La muerte de un viajante, de Arthur Miller.
Después de su fama, Cobb también fue acusado de lealtades comunistas. Al ser llamado por el Comité de Actividades Antiamericanas en 1953, Cobb dio nombres para proteger su carrera y su familia.
En 1954, Cobb fue nominado al Oscar por su papel en la película On the Waterfront.
Cobb tuvo papeles importantes en Exodus (1960), How the West Was Won (1962), Our Man Flint (1966) y The Liberation of L.B. Jones (1970) entre otras. Su último papel importante en el cine de Hollywood fue su participación en El exorcista (1973).
Cobb murió el once de febrero de 1976, tras sufrir un ataque al corazón. Está enterrado en el Mount Sinai Memorial Park de Los Ángeles, California.