Nach Wunsch seines Vaters, eines Bäckers, hätte Mascagni gegen seinen Willen Jurist werden sollen, sein Onkel bewahrte ihn aber durch Adoption davor, und er konnte beginnen, Musik zu studieren. Schon seine ersten Werke waren ziemlich erfolgreich, was den Vater mit der Berufswahl des Sohnes versöhnte. Obwohl er von einem adligen Gönner gefördert wurde, hervorragende Lehrer (Amilcare Ponchielli) und mit Giacomo Puccini einen kompetenten Freund hatte, brach er das Studium, das ihm zu trocken schien, ab und schloss sich einer fahrenden Operntruppe an.

1885 ließ er sich als Dirigent des kleinen städtischen Orchesters in Cerignola engagieren, wo er genug verdienen konnte, um zu leben. Nebenbei komponierte er fleißig große Opern: 1888 war Guglielmo Ratcliff (nach Heinrich Heine; Libretto von Andrea Maffei) fertiggestellt, konnte aber keinen Impresario begeistern, und 1889 nahm er mit Cavalleria Rusticana an einem Einakter-Opernwettbewerb des italienischen Musikverlegers Sonzogno teil. Die Oper erhielt den ersten Preis und wurde bei ihrer Uraufführung im Jahr darauf einer der größten Erfolge der Musikgeschichte.

Über Nacht war Mascagni zum Star der italienischen Opernszene geworden und genoss den plötzlich erworbenen Ruhm und Reichtum. Seine nächste Oper, L’amico Fritz (nach einem Roman von Erckmann-Chatrian) war schnell komponiert, wurde aber eher enttäuscht aufgenommen. Anders erging es ihm mit dem zuvor erwähnten Guglielmo Ratcliff, der 1895 mit großem Erfolg uraufgeführt wurde. Er schrieb weitere Opern, die zwar von Kennern geschätzt wurden, welche eine Verfeinerung seines persönlichen Stils konstatierten, aber beim großen Publikum und für die Nachwelt blieb Cavalleria Rusticana der unerreichte Geniestreich des Komponisten.

Pietro Mascagni war unter anderem Lehrer von Riccardo Zandonai.

1902 reiste er in die Vereinigten Staaten, später brachte er seine Werke auch nach Südamerika. Den wachsenden Erfolg seines Freundes Giacomo Puccini verfolgte er mit großer Eifersucht, und 1911 behauptete er, die Zeit des Verismo sei zu Ende.

1915 schrieb er eine bildsynchrone symphonische Begleitmusik zu Nino Oxilias Rapsodia Satanica, einem dramma musicale cinématográfico, in dem die Diva Lyda Borelli die Hauptrolle spielte. Die Komposition ist von expressiver, farbenreicher Harmonik und illustriert mit einer Leitmotivtechnik wie bei Richard Wagner in dem Film die Verflechtungen von Liebe und Tod. Bei der Uraufführung am 3. Juli 1917 dirigierte er das Orchester im Kino Augusteo persönlich. Im selben Jahr erlebte er mit der erfolgreichen Lodoletta in Rom ein Wiederaufflammen seines Ruhms.

Von 1927 bis zu seinem Tod lebte er im Hotel Plaza di Roma. In den 1930er Jahren wurde er Mitglied der Faschistischen Partei Mussolinis. Seine Beerdigung am 4. August 1945, gut ein Jahr nach der Befreiung Roms, fand daher ohne Repräsentanten des italienischen Staates statt.