Carême wurde in Paris geboren, wurde aber 1792 ausgesetzt, weil seine Eltern sehr arm waren. Er arbeitete als Küchenjunge in einem billigen Pariser Café im Austausch für ein Zimmer und Essen. 1798 ging er bei Sylvain Bailly in die Lehre, einem berühmten Pâtissier (Kuchenbäcker) mit einem Geschäft in der Nähe des Palais-Royal.
Carême wurde in Paris für seine Tortenaufleger berühmt, die Bailly in die Schaufenster seiner Pâtisserie stellte. Die Tortenaufsätze waren manchmal mehrere Meter hoch und bestanden nur aus Lebensmitteln wie Zucker, Marzipan und Gebäck. Als Vorbild dienten ihm Tempel, Pyramiden und antike Ruinen, über die er in den Büchern gelesen hatte, die er in der französischen Nationalbibliothek (Bibliothéque Nationale) studierte. Einige seiner Zuckerkreationen waren so stark, dass Hofnarren darauf tanzen konnten, um den König zu unterhalten.
Carême arbeitete auch für andere Personen, zum Beispiel für den französischen Diplomaten und Feinschmecker Charles Maurice de Talleyrand-Périgord und andere Mitglieder der Pariser High Society, darunter Napoleon. Als er in den Privatküchen arbeitete, lernte er schnell etwas über Hauptgerichte.
Napoleon war nicht an ausgefallenen Speisen interessiert, aber er wusste um die sozialen Kontakte, die für Diplomaten wichtig waren. 1804 gab er Talleyrand Geld, um das Château de Valençay zu kaufen. Als Talleyrand dorthin zog, nahm er Carême mit.
Carême wurde von Talleyrand vor die Aufgabe gestellt, ein ganzes Jahr lang Menüs zu kochen, ohne sie zu wiederholen, und nur Lebensmittel zu verwenden, die gerade Saison hatten. Carême bestand die Prüfung und beendete seine Ausbildung in Talleyrands Küchen. Nach dem Sieg über Napoleon ging Carême für einige Zeit nach London und diente dem Prinzregenten, dem späteren Georg IV. als Küchenchef. Er kehrte nach Europa zurück, um für Zar Alexander I. in St. Petersburg zu arbeiten, bevor er nach Paris zurückkehrte, wo er Küchenchef des Bankiers James Mayer Rothschild war.
Er starb in Paris im Alter von 48 Jahren und ist auf dem Cimetière de Montmartre in Montmartre begraben.