Pályáját rézmetszőként kezdte, majd Tassaert tanítványa volt. A nyolcvanas években Rómában tartózkodott, hogy az antik szobrászatot tanulmányozza. Canovával jó viszonyba került, és a nagy művész kétségtelenül hatott is rá, de Schadow lényegesen családiasabb-polgáribb felfogást képviselt, mint az olasz mester. Itáliai tanulmányai után, visszatérve Berlinbe, 1788-ban udvari szobrász, 1805-ban az akadémia rektora lett. 1815-től a Művészeti Akadémia igazgatója, és ebben a minőségben igen nagy hatással van az ébredező, új utakon járó klasszicista szobrászatra. Megőrzött valamit az előző kor életteli hagyományából, ami főleg emlékszobrain (Nagy Frigyes stettini szobra, Blücher szobra Rostockban stb.) fedezhető fel. Bennük egyúttal az új monumentális szobrászatnak az az áramlata jelentkezik, amelyre a megelevenítő erő és az élénk történelmi érzék a jellemző. Korai műve a gyermek Erich van der Mark síremléke, ahol az életkori sajátosságokon kívül a felmagasztosított álom szépségével árasztja el a finom felépítésű síremléket. A Brandenburgi kapu öt méter magas béke istennőt megformáló szobrot Johann Gottfried Schadow készítette. A győzelem szárnyas istennőjét ábrázolja, ahogy a négylovas szekerén (Quadriga) behajt a városba. A női alakot az unokahúgáról Ulrikéről mintázta, ezért a helyiek csak Ulrikének hívják. Mivel az antik szobrokon az isteneket meztelenül ábrázolták, Schadow is így tervezte meg, de ezt II. Vilmos császár ellenezte, ezért Ulrike köntöst kapott. 1806-ban mikor Napóleon megszállta a várost, a szobrot hadizsákmányként Franciaországba szállítatta, de hét évvel később a veresége után visszakerült Berlinbe. Ekkor porosz sassal és vaskereszttel egészítették ki, és a győzelem istennője Victoria lett.

Legkedveltebb alkotása: Lujza és Friderika hercegnő kettős szobra a görög ruhás nőalakok hagyományát ülteti át nőiesen bájos és vonzóan ünnepélyes hangnembe. Kecses állásuk, reliefszerű csoport fűzésük, érzékletes mintázásuk múlt és jelen egybefonódását jelzi. Csoportkompozíciókon és monumentális emlékműveken kívül mellképeket is mintázott. Számos szobrot készített a német történelem és művészet nagyjairól, amelyek a regensburgi Walhallában találhatók. Hogy a szobrászat elméleti kérdései is foglalkoztatták, bizonyítja Polyklet címen 1824-ben megjelent tanulmánya, amely évek során több kiadást ért meg. Schadow nagy erénye az a sajátos spontaneitás, amellyel feladataihoz közelít és mindvégig mentes attól a hűvös, észből táplálkozó klasszicizmustól, amely főleg a szobrászat terén lassanként Európa szerte uralkodóvá válik. Minden művét közvetlenség, frissesség jellemzi, ha természetesen meg is tartja a feladat által megkövetelt szokványokat. Ezért válik a fiatal Erich síremléke egészen sajátos és megkapó kompozícióvá, a két hercegnő kettős szobra pedig a friss nőiesség és vonzó testvéri együttes bájos és mégis klasszikus egyensúlyú, példájává. Fekvő női hátaktja viszont a késő barokk életteli érzékiségének szinte utolsó megnyilvánulása. Fiai közül Rudolf szobrász, Godenhaus Friedrich Wilhelm festő lett.