C'est à Budapest, dès la fin de la guerre, qu'il fait ses études musicales, dans un conservatoire profondément marqué par la figure de son grand compatriote Béla Bartók, alors en exil aux États-Unis (où il meurt en 1945) : il y rencontre notamment sa femme, Márta, pianiste, et fait la connaissance d'un autre jeune compositeur, György Ligeti. Parmi ses professeurs, on peut citer Sándor Veress et Ferenc Farkas.

Les premières années du régime communiste hongrois sont marquées par une grande fermeture aux influences occidentales, notamment dans le domaine musical ; Kurtág compose alors très peu, et sans être satisfait de sa production (ultérieurement largement détruite).

Le moment fondateur de son œuvre sera la bourse d'études qui lui est accordée en 1957/1958 : il passe un an à Paris, où il n'ose pas se présenter devant Pierre Boulez, qui domine la scène contemporaine, faute de pouvoir lui présenter une œuvre qui le satisfasse. Il rencontre à cette occasion la psychologue Marianne Stein, qui libère sa capacité créatrice en l'encourageant à se concentrer sur des formes courtes : la première œuvre écrite à son retour à Budapest est le Quatuor à cordes op. 1, dédié à Marianne Stein – 15 minutes en 6 mouvements dans lesquels le silence joue un rôle fondamental.

Kurtág passe l'essentiel des décennies suivantes à Budapest, d'abord comme répétiteur, puis comme professeur à l'Académie de musique Franz-Liszt : il y enseigne le piano et la musique de chambre, et non la composition. La pédagogie joue un rôle capital dans sa vie : non seulement il est un professeur doté d'une capacité d'inspiration prodigieuse, mais il est animé par le souci constant de transmettre lui-même ses œuvres à ses interprètes, quitte à les modifier si besoin est ; depuis 1974, il poursuit aussi la composition de pièces pour piano, notamment les 9 volumes de Játékok ("Jeux"), créés à l'origine comme instrument pédagogique pour faire découvrir le piano aux enfants.

Pendant ce temps, sa musique reste très peu connue aussi bien en Hongrie qu'à l'étranger : la création en 1968 au festival de Darmstadt – haut lieu de la création contemporaine d'alors — des Dits de Péter Bornemisza pour violon et soprano passe complètement inaperçue dans un festival largement dominé par la musique électronique. Le moment décisif pour Kurtág ne viendra qu'en 1981 : les Messages de feu Demoiselle Troussova, envoyés au comité de lecture de l'Ensemble intercontemporain, attirent l'attention de Pierre Boulez, stupéfait de découvrir cette musique magnifique d'un compositeur de sa génération dont il ne connaissait pas encore le nom. Il décide d'en programmer la création, qui est un triomphe. Depuis lors, Kurtág devient un compositeur de renom international, a fortiori depuis sa retraite de professeur en 1986 : le Festival de Salzbourg lui consacre ainsi des séries de concerts en 1993 et 2004 ; de 1993 à 1995, il est compositeur en résidence auprès de l'orchestre philharmonique de Berlin et de son chef Claudio Abbado, pour lequel il écrit une de ses rares œuvres pour grand orchestre, Stele. La Cité de la musique à Paris et le Konzerthaus de Vienne l'accueillent pour d'autres résidences.

En 2011, le nouveau directeur du Festival de Salzbourg Alexander Pereira a annoncé lui avoir commandé un opéra, sur un texte de Samuel Beckett Fin de partie, destiné à être créé lors de l'édition 2013 du Festival. La composition n'étant cependant pas achevée à temps, l'opéra est reprogrammé pour 2015, toujours à Salzbourg. Fin octobre 2014, il annonce que, sa femme étant gravement malade, il ne pourra achever l'œuvre à temps. La création est donc remplacée par une nouvelle production de Die Eroberung von Mexiko de Wolfgang Rihm et, à la Scala qui devait coproduire le spectacle, Wozzeck d'Alban Berg. L’œuvre est finalement créée à la Scala en 2018.

De nombreux prix prestigieux l'ont récompensé. En 2006, l'Université de Louisville dans le Kentucky lui a décerné «Grawemeyer Award in Music Composition», pour Concertante op. 42 pour violon, alto et orchestre.

Il est élu membre de l'Académie des arts de Berlin en 1987.

Kurtág et sa femme Márta, pianiste, se sont installés dans la région de Bordeaux. Márta est morte le 17 octobre 20193. Ils ont un fils, György Kurtág Jr., également musicien.