Vienne, dans les premières années du règne d'impératrice Maria Theresa, dans la chambre de Son Altesse Impériale la Princesse et Maréchale Werdenberg. Tandis que son mari es absent, la Maréchale dédie son temps à son jeune amant de dix-sept ans, le comte Octavian, surnommé Quinquin. Elle vient de passer une nuit d’amour avec lui. Il fait désormais jour de les deux amants échangent de douces caresses. Lorsque le jeune page noir de la Maréchale s’annonce pour apporter le petit déjeuner, Quinquin se cache. Un peu plus tard le deux amants sont à nouveau interrompus, cette fois par l’arrivée du baron Ochs, le cousin de la Maréchale, et à nouveau Octavian se cache pour réapparaître habillé en une séduisante femme de chambre, “Mariandel”, qui attire aussitôt les regards du baron. Ce dernier est venu demander des conseils à sa cousine au sujet de la cérémonie de ses fiançailles : il doit en effet épouser Sophie von Faninal, la fille d’un riche marchand qui vient d’obtenir un titre de noblesse, et il cherche un jeune noble qui, selon la coutume, remette à la fiancée une rose d’argent, symbole de la demande en mariage. La Maréchale, irritée et embarrassée par les continuelles avances que fait le baron à “Mariandel”, qu’il vient d’inviter cher lui à dîner, propose que le comte Octavian serve de “chevalier à la rose”. Entre temps le majordome entre et annonce à la Maréchale les visites du matin : une veuve accompagnée de ses trois filles, un coiffeur, divers vendeurs, un homme de lettres, un joueur de flûte et un ténor italien ; tous offrent leurs services à la Maréchale. Puis entrent deux italiens intrigants, Valzacchi et Annina, qui réussissent à se faire engager comme espions par le baron. Lorsqu’elle se retrouve seule avec Octavian, qui a ôté ses habits féminins. La Maréchale devient mélancolique, sûre qu’une fois que sa beauté sera fanée, Octavian cherchera vite ailleurs une femme plus jeune. Le comte, irrité, la rassure avec des mots conventionnels, puis il sort de scène. La Maréchale s’aperçoit alors qu’elle a laissé partir son amant sans même lui avoir donné un baiser. Elle demande à ses serviteurs de le rattraper, mais le comte est déjà loin. Elle confie donc la rose à son page pour qu’il la donne au jeune chevalier.
Les préparatifs battent leur plein pour la cérémonie des fiançailles entre Sophie et le baron Ochs. Celui-ci sera précédé du « chevalier à la rose », dont on annonce d’ailleurs l’arrivée. Une attraction irrésistible naît aussitôt entre les deux jeunes gens et Octavian, dans l’attente du baron, fait part innocemment à la jeune fille de son admiration. Le baron entre et devant tout le monde il s’adresse à la future mariée d’une façon assez grossière. Sophie est consternée par la vulgarité de son très noble fiancé ! Tandis que le baron s’écarte avec la notaire qui doit rédiger le contrat de noces, Octavian promet à Sophie qu’il era tout ce qu’il pourra pour empêcher que ce mariage ne soit célébré, et le deux jeunes gens échangent un baiser. Valzacchi et Annina, qui sont entré sans se faire voir, empoignent les jeunes gens et appellent à grands cris le baron. Celui-ci se montre indifférent, u moins jusqu’au moment où Octavian n’annonce publiquement que Sophie ne veut plus l’épouser. Il ordonne alors à ses serviteurs d’intervenir – car Sophie s’est réfugiée derrière Octavian et refuse de signer le contrat – mais le chevalier sort son épée et blesse légèrement le baron. Ochs se met à hurler, comme s’il était moribond, tandis que ses serviteurs l’aident à s’asseoir. Faninal intervient et ordonne à sa fille d’accepter ce mariage sinon il l’enfermera dans un couvent. Entre temps Annina remet à Ochs un billet de “Mariandel”, qui accepte son invitation à dîner. L’acte se termine avec la satisfaction du baron qui, malgré ce qui vient d’arriver, se console en pensant à son rendez-vous galant.
Sur le lieu du rendez-vous, le piège tendu au baron par les deux italiens Annina et Valzacchi (qui se sont entre temps mis au service d’Octavian) est prêt. Quand Ochs entre au bras d’Octavian, qui s’est à nouveau habillé en “Mariandel”, il est accueilli par un petit orchestre qui joue une valse et par les serviteurs de l’auberge qui lui offrent toute une série de services coûteux. Le baron promet alors un bon pourboire à Valzacchi si celui-ci réussit à obtenir une réduction sur le compte. Durant le dîner, le comportement bêtement timide de “Mariandel” excite de plus en plus Ochs. Bien que vaguement troublé par la ressemblance de la servante avec Octavian, il continue à courtiser la jeune fille et à l’attirer vers l’alcôve. Mais tout à coup, de tous coins de la pièce, il voit apparaître, semblables à des fantômes, des visages terrifiants qui le fixent. Puis Annina entre et déclare que Ochs est son mari, suivie de quatre enfants qui, poussés par Valzacchi, s’approchent de lui en l’appelant “papa !”. Le baron, au comble de l’épouvante et de l’exaspération, appelle la police. Il affirme au commissaire que la jeune fille qui l’accompagne est sa fiancée, mais au moment même où il prononce son nom, Faninal entre. Découvrant la situation, ce dernier s’évanouit de honte et on doit le transporter dans la pièce d’à côté. Sophie, qui vient elle aussi d’arriver, prend soin de lui. “Mariandel” profite de la confusion pour révéler au commissaire qu’il s’agit là d’une farce et pour ôter ses vêtements féminins. L’indignation du baron Ochs éclate dans toute sa fureur, mais il est interrompu par l’arrivée de la Maréchale. Celle-ci, comprenant aussitôt ce qui se passe, commence par renvoyer le commissaire en lui confirmant qu’il s’est bien agi d’une farce, puis elle s’adresse avec sévérité au baron, qui s’enfuit alors, suivi de ses créditeurs : le musiciens et les serveurs. Sur la scène restent Sophie, Octavian et la Maréchale. Celle-ci a maintenant compris le lien qui unit le deux jeunes gens et, bien qu’elle en souffre, accepte malgré elle leur amour. Elle se rend ensuit chez Faninal, avec lequel elle ressort peu après : le père de Sophie a donné son accord pour le nouvel amour de sa fille. Les deux jeunes gens échangent à nouveau des mots reste seulement le jeune page de la Maréchale, venu chercher le mouchoir que Sophie avait laissé tomber.
