Carême föddes i Paris, men övergavs 1792 eftersom hans föräldrar var mycket fattiga. Han arbetade som kökspojke på ett billigt café i Paris i utbyte mot ett rum och mat. År 1798 blev han lärling hos Sylvain Bailly, en berömd pâtissier (tårtbager) med en butik nära Palais-Royal.
Carême blev berömd i Paris för sina tårtcentrums, som Bailly satte upp i pâtisseriets fönster. Centerpieces var ibland flera meter höga och var endast gjorda av livsmedel som socker, marsipan och bakverk. Han tog modell av tempel, pyramider och antika ruiner som han läste om i de böcker han studerade på det franska nationalbiblioteket (Bibliothéque Nationale). Vissa av hans sockerarbeten var så starka att hovnarrar kunde dansa på dem för att underhålla kungen.
Carême arbetade också för andra personer, till exempel den franske diplomaten och gourmanden Charles Maurice de Talleyrand-Périgord, och andra medlemmar av det parisiska högsamhället, däribland Napoleon. När han arbetade i de privata köken lärde han sig snabbt om huvudrätter.
Napoleon var inte intresserad av att ha fin mat, men han kände till sociala kontakter som var viktiga för diplomater. År 1804 gav han Talleyrand pengar för att köpa Château de Valençay. När Talleyrand flyttade dit tog han med sig Carême.
Carême ställdes inför ett test av Talleyrand: han skulle skapa menyer för ett helt år, utan att upprepa dem, och bara använda mat som var i säsong. Carême klarade testet och avslutade sin utbildning i Talleyrands kök. När Napoléon besegrades åkte Carême en tid till London och tjänstgjorde som köksmästare hos prinsregenten, senare George IV. Han återvände till Europa för att arbeta för tsar Alexander I i S:t Petersburg, innan han återvände till Paris, där han var kock för bankiren James Mayer Rothschild.
Han dog i Paris vid 48 års ålder och ligger begravd i Cimetière de Montmartre i Montmartre.