Lee J. Cobb urodził się pod nazwiskiem Leo Jacoby w żydowskiej rodzinie w Nowym Jorku. Jego ojciec był redaktorem gazety.
Już w młodym wieku było jasne, że Cobb był muzycznym cudownym dzieckiem. Był szczególnie utalentowanym skrzypkiem i harmonijkarzem. Jako nastolatek Cobb złamał nadgarstek i jego kariera skrzypka dobiegła końca. W wieku siedemnastu lat Cobb uciekł do Los Angeles, aby spróbować zostać aktorem. Nie mając szczęścia w Hollywood, Cobb powrócił do rodzinnego miasta, aby uczęszczać na zajęcia z rachunkowości w City College of New York. W tym samym czasie, w ciągu dnia Cobb występował w dramatach radiowych.
Cobb podjął jeszcze kilka prób aktorstwa i we wczesnych latach swojej kariery nie miał szczęścia zarówno w Hollywood, jak i na Broadwayu.
W 1935 roku Cobb dołączył do Group Theater – politycznie lewicowej grupy teatralnej. Wielu z jej członków znalazło się na czarnej liście podczas ery McCarthy’ego.
W 1937 roku Cobb zagrał w westernach North of the Rio Grande i Rustler’s Valley.
Największy przełom Cobba nastąpił w 1949 roku, kiedy wystąpił w oryginalnej broadwayowskiej produkcji Śmierci komiwojażera Arthura Millera.
Po zdobyciu sławy, Cobb również został oskarżony o komunistyczne sympatie. W 1953 roku Cobb został wezwany przed Un-American Activities Committee, gdzie podał nazwiska, aby chronić swoją karierę i rodzinę.
W 1954 roku Cobb został nominowany do Oscara za rolę w filmie On the Waterfront.
Cobb zagrał główne role między innymi w Exodus (1960), How the West Was Won (1962), Our Man Flint (1966) i The Liberation of L.B. Jones (1970). Jego ostatnią dużą rolą filmową w Hollywood był udział w Egzorcyście (1973).
Cobb zmarł jedenastego lutego 1976 roku, po ataku serca. Został pochowany w Mount Sinai Memorial Park w Los Angeles, w Kalifornii.