Tisztviselőcsaládban született. Gimnáziumi tanulmányait Budapesten végezte, 1957-ben érettségizett, a budapesti bölcsészkaron szerzett magyar–német szakos tanári oklevelet. Rövid ideig nevelőtanárként dolgozott, 1971-től szabadfoglalkozású íróként és műfordítóként működik. Felesége Tandori Ágnes, maga is író s műfordító. Fiatalon bekerült gimnáziumi tanárának, Nemes Nagy Ágnesnek írói-baráti körébe (Mészöly Miklóssal, Ottlik Gézával, Mándy Ivánnal és másokkal volt szoros kapcsolatban). E kör filozófiai tájékozódása, ízlése és erkölcsi tartása nagy hatással volt írói pályakezdésére. 1994-től a Széchenyi Akadémia tagja.

Versei a hatvanas évek közepétől fogva jelennek meg rendszeresen, első kötete 1968-ban jelent meg Töredék Hamletnek címmel. E kötet azonnal magára vonta az irodalmi közvélemény kitüntetett figyelmét, s általa (továbbá következő kötete, az 1973-ban megjelent Egy talált tárgy megtisztítása által), Tandori a korszak költészeti megújulásának központi szereplőjévé vált; költészetének mind metafizikai mélysége, mind filozofikus játékossága újszerűen és felszabadítóan hatott. A hetvenes évektől kezdődően folyamatosan és igen sokféle műfajban publikált: jelentős érdeklődést és visszhangot váltott ki mind állandóan, kötetenként megújuló, folyamatosan új poétikákat kipróbáló költészete, mind széles körű, filozofikus esszéírása, mind sokoldalúan újító prózaírása (akár önéletrajzi jellegű fikcióiban, akár a műfaj határait sokfelé nyitogató, saját nevének anagrammájából készített álnéven – Nat Roid – publikált krimisorozatában), mind pedig a minimal art vagy a concept art felé tájékozódó képzőművészeti, grafikai tevékenysége. 1978-ban megkapta a József Attila-díjat. A hetvenes évek vége felé visszavonult az irodalmi élet nyilvánossága elől, s több mint tíz évig csak alkotásaival jelent meg a közönség előtt: életében ettől kezdve nagy szerepet töltöttek be madarai, verebei, kikkel együtt élt, kiknek ápolását és gondozását egyik legfontosabb feladatának tekintette, s kik ez időben keletkezett műveiben is rendkívül intenzív ihlető erővel hatottak. A nyolcvanas-kilencvenes évek fordulójától kezdve ismét kilépett, személyében is, a nyilvánosság elé: sokat utazott, s gyakran fellépett irodalmi (nemegyszer performance-okra emlékeztető) rendezvényeken is, melyeken saját műveinek meglepő és izgalmas interpretátoraként is bemutatkozott. Az első kötete óta eltelt négy évtized alatt rendkívül sokat és sokfélét publikált: önálló köteteinek száma eléri a hetvenet, műfordításainak mennyisége oly hatalmas, hogy szinte beláthatatlan.