Carême nasceu em Paris, mas foi abandonada em 1792 porque os seus pais eram muito pobres. Ele trabalhava como cozinheiro num café barato de Paris em troca de um quarto e comida. Em 1798, ele foi aprendiz de Sylvain Bailly, um famoso pâtissier (padeiro de bolos) com uma loja perto do Palais-Royal.
Carême ganhou fama em Paris por suas peças centrais de bolos, que Bailly colocou na janela do pâtisserie. Os centros de mesa tinham por vezes vários metros de altura, e eram feitos apenas de alimentos como açúcar, maçapão e pastelaria. Ele os modelou em templos, pirâmides e ruínas antigas que leu nos livros que estudou na biblioteca nacional francesa (Bibliothéque Nationale). Algumas de suas obras de açúcar eram tão fortes que os bobos da corte podiam dançar nelas para entreter o rei.
Carême também trabalhou para outras pessoas, por exemplo o diplomata francês e gourmand Charles Maurice de Talleyrand-Périgord, e outros membros da alta sociedade parisiense, incluindo Napoleão. Quando trabalhava nas cozinhas privadas, rapidamente aprendeu sobre os principais cursos.
Napoleon não estava interessado em ter comida chique, mas sabia de contatos sociais que eram importantes para os diplomatas. Em 1804, ele deu dinheiro ao Talleyrand para comprar o Château de Valençay. Quando Talleyrand se mudou para lá, levou Carême com ele.
Carême foi feito um teste por Talleyrand: ele teve que criar um ano inteiro de menus, sem repeti-los, e usar apenas comida que estava na estação. Carême passou no teste e terminou seu treinamento nas cozinhas do Talleyrand. Quando Napoléon foi derrotado, Carême foi para Londres por um tempo e serviu como chefe de cozinha ao Príncipe Regente, mais tarde George IV. Ele voltou à Europa para trabalhar para o Czar Alexandre I em São Petersburgo, antes de retornar a Paris, onde foi chef do banqueiro James Mayer Rothschild.
Morreu em Paris aos 48 anos de idade, e está enterrado no Cimetière de Montmartre em Montmartre.