Rimszkij-Korszakov elsősorban szimfonikus műveiről, különösen a népszerű szimfonikus szvitről, a Sheherazade-ról, valamint a Capriccio Espagnolról és az Orosz húsvéti ünnepi nyitányról ismert, de életművében operák, kamaraművek és dalok is helyet kaptak. Rimszkij-Korszakov zenéje a hangszínekhez való tehetségének és briliáns hangszerelésének köszönhetően hozzáférhető és magával ragadó. Emellett operái mítoszok és legendák mesteri zenei megidézései.
Az 1844-ben született Rimszkij-Korszakov gyermekkorában zongorázni tanult, de a tengerészeti pályát választotta: 1856-ban belépett a szentpétervári tengerészeti kadétok főiskolájára. A zongoraleckéket azonban folytatta, sőt, 1859-ben Rimszkij-Korszakov a francia Theodore Canille zongoraművésszel kezdett dolgozni, akin keresztül megismerkedett Balakirevvel, aki fontos mentora és barátja volt.
1862-ben, miután elvégezte a tengerészeti iskolát, Rimszkij-Korszakov két és fél évig a tengeren volt, szabadidejét pedig a zeneszerzésnek szentelte. Amikor Rimszkij-Korszakov 1865-ben visszatért Szentpétervárra, Balakirev vezényelte barátja Első szimfóniáját, amelyet orosz zeneszerző első jelentős szimfonikus műveként üdvözöltek.
Rimszkij-Korszakovot 1871-ben kinevezték a szentpétervári konzervatórium zeneszerzés és hangszerelés professzorává. A következő évben feleségül vette Nagyezsda Purgold zongoraművészt. 1873-ban Rimszkij-Korszakov kilépett az aktív szolgálatból, és a haditengerészeti zenekarok felügyelője lett, ezt a tisztséget 1884-ig töltötte be.
Az 1870-es években Rimszkij-Korszakov komponált, vezényelt és orosz népdalokat gyűjtött. 1878-ban kezdte el komponálni a Májusi éjszaka című operát Nyikolaj Gogol elbeszélése nyomán, első színpadi művét, amely fantasztikus motívumokat tartalmazó történetre épült. A Májusi éjszaka bemutatóját követően, 1880-ban Rimszkij-Korszakov elkezdett dolgozni a Hóleányon, amely Nyikolaj Osztrovszkij szláv mítosz költői újramondásán alapul, és amelyet 1882-ben mutattak be.
Muszorgszkij halála miatt szomorúan, 1881-ben Rimszkij-Korszakov barátja kiadatlan kéziratainak szerkesztésének szentelte magát. Rimszkij-Korszakov mesterhangszerelőként kötelességének érezte, hogy segítsen azoknak a kollégáinak, akiknek a kéziratai átdolgozásra szorultak. Így 1887-ben, amikor Borogyin meghalt, Rimszkij-Korszakov vállalta Borogyin Igor herceg című operájának hangszerelését és befejezését.
Rimszkij-Korszakov 1887-ben megírta a Spanyol capricciót, a következő évben pedig befejezte az Orosz húsvéti nyitányt és a Sheherazade-ot. E ragyogó művek megkomponálása után azonban Rimszkij-Korszakov a csüggedés időszakát élte át; családjában haláleset történt, 1893-ban pedig Csajkovszkij is meghalt.
1895-ben került színre Rimszkij-Korszakov Karácsony este című műve, egy másik opera egy Gogol-novella nyomán. A zeneszerző későbbi művei az orosz mítoszok és legendák gazdag világát teremtették újra. Az 1896-ban elkészült Szadko egy középkori orosz legendát idézett meg. Rimszkij-Korszakov 1901-ben a Kitezs legendáját és Szent Fevronija történetét ötvözte egy összetett keresztény-pantheisztikus elbeszéléssé. Az 1905-ben, abban az évben készült el, amikor a politikailag progresszív zeneszerzőt ideiglenesen elbocsátották e tanári állásából. 1907-ben készült el A láthatatlan város, Kitezs és a leányka legendája.
Rimszkij-Korszakov utolsó, 1907-ben befejezett operáját, Az aranykakast, Alekszandr Puskin politikailag felforgató története ihlette. A mű színpadra állítása küzdelmes volt, mert a téma gyanút keltett a kormánycenzúrában. Az operát végül 1909-ben, a zeneszerző halálát követő évben mutatta be egy moszkvai magán operatársulat.