Carême nació París, pero fue abandonado en 1792 porque sus padres eran muy pobres. Trabajó como pinche de cocina en un café barato de París a cambio de una habitación y comida. En 1798, fue aprendiz de Sylvain Bailly, un famoso pâtissier (pastelero) con una tienda cerca del Palais-Royal.
Carême ganó fama en París por sus centros de mesa para pasteles, que Bailly ponía en el escaparate de la pâtisserie. Los centros de mesa tenían a veces varios metros de altura, y estaban hechos únicamente de productos alimenticios como azúcar, mazapán y pastelería. Los modelaba a partir de templos, pirámides y ruinas antiguas sobre las que leía en los libros que estudiaba en la biblioteca nacional francesa (Bibliothéque Nationale). Algunas de sus obras de azúcar eran tan fuertes que los bufones de la corte podían bailar sobre ellas para entretener al rey.
Carême también trabajó para otras personas, por ejemplo el diplomático y gastrónomo francés Charles Maurice de Talleyrand-Périgord, y otros miembros de la alta sociedad parisina, incluido Napoleón. Cuando trabajó en las cocinas privadas aprendió rápidamente sobre los platos principales.
Napoleón no estaba interesado en tener una comida elegante, pero sabía de los contactos sociales que eran importantes para los diplomáticos. En 1804, le dio dinero a Talleyrand para que comprara el Château de Valençay. Cuando Talleyrand se trasladó allí, se llevó a Carême con él.
Carême fue sometido a una prueba por Talleyrand: tenía que crear menús para todo un año, sin repetirlos, y utilizar sólo alimentos de temporada. Carême superó la prueba y terminó su formación en las cocinas de Talleyrand. Cuando Napoleón fue derrotado, Carême se fue a Londres durante un tiempo y sirvió como chef de cocina del Príncipe Regente, más tarde Jorge IV. Volvió a Europa para trabajar para el zar Alejandro I en San Petersburgo, antes de regresar a París, donde fue chef del banquero James Mayer Rothschild.
Murió en París a la edad de 48 años, y está enterrado en la Cimetière de Montmartre en Montmartre.