Bécs a többi városnál még inkább a kávéházak városa volt, amelyekben a bécsi ember életének fontos része zajlott, ezért nem is csoda, hogy az egyikben (Griensteidel) alakult meg 1897-benn az Osztrák Iparművészeti Egyesület (Verein Bildender Künstler Österreichs), más szóval a bécsi szecesszió. Az egyesület szellemi vezére Gustav Klimt, barátaival, Josef Hoffmannal, Koloman Moserrel és Josef Maria Olbrichhel karöltve. A szecesszió második kiállítását abban az épületben tartották, amelyet erre a célra Josef Maria Olbrich tervezett még mindig tanára, Otto Wagner hatása alatt, míg a belsőépítészeti tervezésben Moser és Hoffmann is részt vesz. Olbrich tehát, a darmstadti megbízás előtt az osztrák fővárosban dolgozott. Klimt-tel együtt az egyik alapítója volt a bécsi Szecesszió csoportnak. Ő tervezte 1897-ben a csoport székházául a bécsi Szecesszió pavilont. Az emlékműhöz hasonló épület jellegzetes dísze a fém-levelekből formált, áttört mintájú gömbkupola. Az építész sokkal inkább az ornamentális, festői elemeket hangsúlyozta, s mint ilyen, a romantika építészetének a folytatója. Az arany színű babérlevelekből emelt kupolát a Szecesszió csarnoka fölé, asszír és Ó- mezopotámiai díszítőelemekkel szórta tele. A villogóan fehér ház szabályos, mértani kubusokból van összerakva. Bejárata mélyen visszalép a homlokzat síkja mögé: felette aranyozott fém kupola áttört gömbje díszíti az összképet. Az épület belső kialakítása - felülről megvilágított, sok rendeltetésű tér - visszafogott.

Olbrich, 1899-ben Darmstadtba költözött, ahol folytatta munkásságát. A nagyhercegséghez tartozó Mathildenhöhe parkot Ernst Ludwig a hesseni nagyherceg javaslatára nagy színpaddá alakították, ahol a művészek a szabadban, házukat építve alkotásaikból kiállítást rendeztek. Hamarosan hét művész gyűlt össze, köztük Joseph Maria Olbrich, Peter Behrens és Hans Christiansen. A művésztelep hivatalosan 1899. július 1-jén nyílt meg. A művészek számára nem csak a saját maguknak tervezett házakhoz biztosítottak eszközt, hanem mindannyiukkal három évre szóló szerződést kötöttek, ami megfelelő fizetést szavatolt a részükre. Olbrich a parkban hat épületet, közöttük három lakóépületet tervezett, amely fordulópontot jelentett a funkcionalizmus irányába és a konstrukció új értelmezése felé, habár az alap a Jugendstil maradt. Épületei valami módon pillanatnyiságot fejeznek ki, mintha ideiglenesen húzták volna fel őket (a súlyos kőtömbök oldala látszólag papírvékony, az egymásra rakott sorok lazán illeszkednek, mintha bármikor megcsúszhatnának). Dekorációs ötletei kiemelkednek. Pl.: saját házának terve, Christiansen-ház terve. Germán szellemben alakította ki belső tereit. További munkái: Tietz – áruház (Düsseldorf), Ernst Ludwig háza (Darmstadt), Glückert – ház (Darmstadt). Az együttes középpontjába - szintén az ő tervei szerint - kiállítási helyiségeket és a műtermeket magába foglaló nagyobb tömb épült. Ahhoz csatlakozik a kolónia s egyben a megújuló német művészet jelképeként emelt Házasságkötések tornya. A tetején, mint kinyújtott kar végén az ujjak, egymáshoz szorulva öt íves záródású hasáb áll. A forma jelentése elég közérthető: az építészet elvontabb nyelvén fogalmazva az esküre emelt kezet jelképezi. Olbrich 40 éves korában leukémiában halt meg Düsseldorfban.