Carême Párizsban született, de 1792-ben elhagyták, mert szülei nagyon szegények voltak. Egy olcsó párizsi kávéházban konyhásfiúként dolgozott, cserébe szobáért és ételért. 1798-ban Sylvain Bailly, a híres pâtissier (tortasütő) tanonca lett, akinek a Palais-Royal közelében volt üzlete.
Carême Párizsban a tortaközéplettel szerzett hírnevet, amelyet Bailly a pâtisserie kirakatába helyezett. Az asztaldíszek néha több méter magasak voltak, és kizárólag élelmiszerekből, például cukorból, marcipánból és tésztából készültek. Templomokról, piramisokról és ókori romokról mintázta őket, amelyekről a francia nemzeti könyvtárban (Bibliothéque Nationale) tanulmányozott könyveiben olvasott. Néhány cukorműve olyan erős volt, hogy az udvari bolondok táncolhattak rajtuk a király szórakoztatására.
Carême másoknak is dolgozott, például Charles Maurice de Talleyrand-Périgord francia diplomatának és ínyencnek, valamint a párizsi előkelő társaság más tagjainak, köztük Napóleonnak. Amikor a magánkonyhákon dolgozott, hamar megismerkedett a főfogásokkal.
Napóleon nem volt érdekelt a díszes ételekben, de ismerte a diplomata számára fontos társadalmi kapcsolatokat. 1804-ben pénzt adott Talleyrandnak, hogy megvásárolja a Château de Valençayt. Amikor Talleyrand odaköltözött, magával vitte Carême-t is.
Carême-t Talleyrand próbatétel elé állította: egy egész évi menüt kellett összeállítania, anélkül, hogy megismételné azokat, és csak olyan ételeket kellett felhasználnia, amelyeknek éppen szezonja volt. Carême megfelelt a próbán, és Talleyrand konyhájában fejezte be a képzését. Amikor Napóleont legyőzték, Carême egy időre Londonba ment, és a régensherceg, a későbbi IV György konyhafőnökeként szolgált. Visszatért Európába, hogy I. Sándor cárnak dolgozzon Szentpéterváron, majd visszatért Párizsba, ahol James Mayer Rothschild bankár séfje volt.
48 éves korában halt meg Párizsban, és a Montmartre-i Cimetière de Montmartre-ban van eltemetve.