Régi nemesi család sarja, apja Sáros vármegye alispánja, majd főispánja volt, aki támogatta festőszándékát. 1864-ben beíratta a müncheni akadémiára, ahol Strähuber, Anschütz, majd Wagner Sándor voltak mesterei, de hamar kapcsolatba került a kiváló pedagógus Pilotyval is, akinek 1868-ban növendéke lett. Mestereitől azonban csak a biztos rajztudást, a szerkesztés szabályait tanulta meg, az akadémikus formanyelvet sohasem vette át. Már fiatalkori műveiben is megmutatkozott közvetlensége, művészetének egyéni hangja, kolorit gazdagsága. Pilotynál együtt tanult Leibllel, s a müncheni tárlatokon találkozott Courbet műveivel. 1872-ben Böcklinnel kötött barátsága is a színek gazdagsága felé vonzotta. Egyéni formanyelve már 1869-ben kibontakozott a magyar plein air festészet első remekeiként napvilágot látó Ruhaszárítás és Hinta c. levegőjárta, friss vázlatában. A következő években festette első jelentős művét, lírai Szerelmespárját, s ekkor kezdett foglalkozni fő műve, az egyik legszebb magyar kép, a Majális vázlataival, mely 1873-ban öltött végleges formát. Az európai festészetben igen fontos helyet elfoglaló ragyogó koloritú, életvidám plein air képe azonban nem érte el a megérdemelt sikert, s alkotója kedvét veszítve abbahagyta a rendszeres munkát. Hazajött jernyei birtokára, megházasodott, gazdálkodni kezdett és inkább csak kedvelésből festegetett. Eközben is néhány remekmű került ki ecsetje alól, mint pl. a feleségéről festett Lilaruhás nő (1874). Ez is kedvezőtlen, bírálatot kapott, ami mindinkább kedvét szegte. Közben a családba sorozatos tragédiák történnek; meghalt a festő édesapja, nővére, és két gyermeke. A nyomott kedélyű Szinyei 3 éven keresztül nem festett semmit. 1878-ban egy különös élmény miatt ragadott ecsetet; sógora léghajóra szállt és ennek hatására született a Léghajó című kép, majd hosszú idő után újra befejezett egy mitológiai (az utolsó) témájú képet, ezután már csak családtagjairól készített portrékat, de egyiket sem fejezte be igazán. Úgy érezte el kell hagynia Jernyét és 1882 májusában családostól Bécsbe költözött. Bécsben elsőként a Pacsirta című képet festette meg, 1883-ban más műveivel együtt a Künstlerhausban állították ki, de a kritikusok nagyon lehúzták; a kép színeit (főleg a zöldeket) brutálisnak titulálták. Ekkor gyeptéglákat hozatott és a kép elé tettette, és a kritika megenyhült. A Pacsirtát kiállította még Budapesten is, ez volt az első jelentősebb itthoni kiállítása. Márciusban hazatért Jernyére. Szakítva korábbi gyakorlatával kiment a természetbe és alig egy óra alatt megfesti a Hóolvadás című képét, és csaknem egy évtizedre félretette az ecsetet.  

Csalódásait nehezen élte meg, ami házasságát is megkeserítette, felesége nem bírta elviselni férje indulatkitöréseit és apátiáját ezért kezdeményezte a házasság felbontását. Az asszony 1887-ben magával vitte életben maradt leányaikat, Szinyei pedig egyedül maradt fiával Félixszel. Rokonai és barátai közbenjárására tért vissza a festéshez; megbízták Zemplényi Tivadart, hogy Szinyei birtokán kezdjen festeni, remélvén, hogy a festő felfigyel majd rá. Így is lett; visszatérése alkalmából egy kis tanulmányt festett, Almavirág címmel, majd Zemplényi biztatására befejezte félbehagyott munkáit. Az 1894-1895-ben a Képzőművészeti Társulat által rendezett tárlaton nagy sikert arattak képei. A vádaszati témájú képét, az Oculit, maga a király, Ferenc József vásárolta meg. Újra a festészet lett életének legfontosabb része. Utolsó 25 évét szakadatlan munkával töltötte, bár ekkor sem készített 5-6 képnél többet évente. 1899-től a maga ültette kerteket festi és megszületik a "park-képek" sorozata, leginkább tavaszi vagy őszi hangulatú képeket készített. 1900-ban a párizsi világkiállításon a Hóolvadás című képe ezüstérmet kapott. 1901-ben egy müncheni kiállításon Majális képe aranyérmet nyert, és Velencében is bemutatták néhány képét. Ugyanebben az évben tett egy Dél-itáliai körutat, amit 1903-ban megismételt. 1902 körül egyik szemére megvakult, de ennek ellenére folytatta a munkát. 1905-ben került sor első önálló kiállítására a Nemzeti Szalonban (Modern magyar művészek). A kiállításon 89 munkáját mutatták be, köztük a külön erre az alkalomra készült Szurkos fenyő című képpel. Közben, 1897-ben képviselővé választották: 1905-ben nagy sikerű kollektív kiállítást rendezett a Nemzeti Szalonban, ugyanezen évben kinevezték a Képzőművészeti Főiskola igazgatójává, mely tisztségét haláláig megtartotta. 1907-ben részt vett a Magyar Impresszionisták és Naturalisták Köre (MIÉNK) megalapításában, több képével szerepelt külföldi tárlatokon s ott is döntő sikert aratott. 1919 tavaszán betegsége miatt visszavonult Jernyére. Sokszor töltötte idejét Fonyódon, utolsó képei is itt születtek. Egy kis kabint állíttatott fel a tóparton, ahonnan minden időben festhetett. Az idős mester még megélhette élete legnagyobb kitüntetését, amikor is 1914-ben a Szépművészeti Múzeum felállította a Szinyei termet. 1920-ban érte a halál Jernyén. Negyven nappal halála után a szűkebb baráti köréhez tartozó művészek és írók megalapították a Szinyei-Merse Társaságot, mely a második világháborúig a magyar művészeti élet befolyásos társasága volt. Szinyei Merse Pál sírja Jernye község temetőjében van. Nevét ma utca, Szirmabesenyőben általános iskola és 1962 óta gimnázium is viseli. A Szinyei család leszármazottai között, majdnem minden generációban találunk képzőművészeket.