Lee J. Cobb est né sous le nom de Leo Jacoby dans une famille juive de New York. Son père était rédacteur en chef d’un journal.
Dès son jeune âge, il était clair que Cobb était un prodige de la musique. Il était un joueur de violon et d’harmonica particulièrement talentueux. Cobb s’est cassé le poignet à l’adolescence et sa carrière de violoniste était terminée. À dix-sept ans, Cobb s’enfuit à Los Angeles pour tenter de devenir acteur. N’ayant pas eu de chance à Hollywood, il retourne dans sa ville natale pour suivre des cours de comptabilité au City College de New York. Parallèlement, Cobb joue dans des dramatiques radiophoniques pendant la journée.
Cobb fait encore quelques tentatives pour devenir acteur et, dans ses premières années, n’a pas eu de chance à Hollywood et à Broadway.
En 1935, Cobb rejoint le Group Theater – une troupe de théâtre politiquement de gauche. Beaucoup de ses membres ont été mis sur liste noire pendant l’ère McCarthy.
En 1937, Cobb joue dans les films western North of the Rio Grande et Rustler’s Valley
La plus grande percée de Cobb a lieu en 1949 lorsqu’il joue dans la production originale à Broadway de Death of a Salesman d’Arthur Miller.
Après sa célébrité, Cobb fut lui aussi accusé d’allégeances communistes. Interpellé par le Comité des activités anti-américaines en 1953, Cobb donne des noms afin de protéger sa carrière et sa famille.
En 1954, Cobb est nommé aux Oscars pour son rôle dans le film On the Waterfront.
Cobb joue des rôles majeurs dans Exodus (1960), Comment l’Ouest a été gagné (1962), Notre homme Flint (1966) et La libération de L.B. Jones (1970), entre autres. Son dernier grand rôle au cinéma à Hollywood fut sa participation à L’Exorciste (1973).
Cobb est mort le onze février 1976, après avoir souffert d’une crise cardiaque. Il est enterré au parc commémoratif Mount Sinai à Los Angeles, en Californie.