Carême werd geboren in Parijs, maar werd in 1792 in de steek gelaten omdat zijn ouders erg arm waren. Hij werkte als keukenjongen in een goedkoop Parijs café in ruil voor een kamer en eten. In 1798 ging hij in de leer bij Sylvain Bailly, een beroemde pâtissier (taartenbakker) met een winkel in de buurt van het Palais-Royal.
Carême werd in Parijs beroemd door zijn taartkransen, die Bailly in de etalage van de pâtisserie plaatste. De taartfiguren waren soms enkele meters hoog, en werden uitsluitend gemaakt van voedingsmiddelen zoals suiker, marsepein en gebak. Hij maakte ze naar het model van tempels, piramiden en oude ruïnes waarover hij las in de boeken die hij bestudeerde in de Franse nationale bibliotheek (Bibliothéque Nationale). Sommige van zijn suikerwerken waren zo sterk dat hofnarren erop konden dansen om de koning te vermaken.
Carême werkte ook voor andere mensen, bijvoorbeeld de Franse diplomaat en smulpaap Charles Maurice de Talleyrand-Périgord, en andere leden van de Parijse high society, waaronder Napoleon. Toen hij in de privé-keukens werkte, leerde hij al snel de hoofdgerechten kennen.
Napoleon was niet geïnteresseerd in deftig eten, maar hij wist van de sociale contacten die voor diplomaten belangrijk waren. In 1804 gaf hij Talleyrand geld om Château de Valençay te kopen. Toen Talleyrand daar ging wonen, nam hij Carême mee.
Carême werd door Talleyrand op de proef gesteld: hij moest een heel jaar menu’s samenstellen, zonder ze te herhalen, en alleen voedsel gebruiken dat in het seizoen was. Carême slaagde voor de test en beëindigde zijn opleiding in Talleyrand’s keukens. Na de nederlaag van Napoléon ging Carême een tijdje naar Londen en diende als chef de cuisine voor de Prins Regent, de latere George IV. Hij keerde terug naar Europa om te werken voor Tsaar Alexander I in St. Petersburg, voordat hij terugkeerde naar Parijs, waar hij chef-kok was van bankier James Mayer Rothschild.
Hij stierf in Parijs op 48-jarige leeftijd, en is begraven in de Cimetière de Montmartre in Montmartre.