Die Geschichte spielt zu einer Zeit, in der sich Spanien gerade dem Ende eines Krieges mit Frankreich nähert. Zwischen den beiden Ländern wurde vereinbart, dass Don Carlos, der spanische Thronfolger, Elisabeth, die Tochter des Königs von Frankreich, heiraten wird.
I. Akt
Don Carlos möchte das Mädchen sehen, das er heiraten wird. Er geht nach Frankreich und nimmt heimlich an einer königlichen Jagd teil, an der Elisabeth teilnimmt. Elisabeth und ihr Page werden von den anderen getrennt. Carlos spricht mit ihr und bietet ihr an, sie nach Hause zu bringen. Die Prinzessin fragt ihn nach dem Prinzen, den sie heiraten soll. Carlos sagt, sie brauche sich keine Sorgen zu machen, weil der Prinz gütig und in sie verliebt sei. Dann zeigt er Elisabeth ein Foto des Prinzen, und dann wird Elisabeth natürlich klar, dass es der Prinz ist, mit dem sie spricht. Sie singen ein Liebesduett.
Dann kommen einige spanische Beamte und sagen Elisabeth, dass beschlossen wurde, dass sie den Prinzen nicht heiraten wird: Sie wird seinen Vater, den König von Spanien, heiraten. Die beiden Liebenden sind bestürzt über diese Nachricht. Die Menschenmenge fleht Elisabeth an, der Heirat mit dem König von Spanien zuzustimmen, damit der Krieg beendet wird. Am Ende willigt sie ein.
Akt II
Don Carlos ist in ein Kloster gegangen, damit er in seinem Elend Ruhe finden kann. Sein Großvater, Karl V., hatte seine letzten Tage in diesem Kloster verbracht. Ein Mönch spricht mit ihm. Carlos meint, der Mönch sehe seinem Großvater ähnlich.
Carlos ist voller Freude, als sein Freund Rodrigue kommt. Er ist gerade aus Flandern zurückgekommen, wo es noch viel zu kämpfen gibt. Carlos verrät ihm ein Geheimnis: dass er in Elisabeth verliebt ist, die inzwischen seinen Vater geheiratet hat und deshalb Königin von Spanien ist. Rodrigue sagt ihm, er solle seine Zeit damit verbringen, den armen Menschen in Flandern zu helfen. Der König und die Königin gehen am Grab vorbei.
Wenn die Königin die Kirche verlässt, geht sie in den Garten, wo ihre Hofdamen auf sie warten. Ein Bote gibt ihr einen Brief von ihrer Mutter in Paris, aber gleichzeitig gibt er ihr heimlich einen Brief von Carlos. Rodrigue spricht leise mit Eboli, der Hofdame der Königin, während die Königin die Briefe liest. Rodrigue bittet die Königin, zu versuchen, den König davon zu überzeugen, Carlos mit ihm sprechen zu lassen. Eboli ist in Carlos verliebt. Sie hat bemerkt, wie aufgewühlt Carlos war, als er in der Gegenwart der Königin war, und glaubt, dass es daran liegt, dass Carlos sie liebt (Eboli).
Carlos erhält die Gelegenheit, Elisabeth privat zu treffen. Er fragt sie ruhig, ob sie den König überreden könne, ihn nach Flandern zu schicken. Er ist jedoch nicht wirklich ruhig, und schon bald beginnt er wütend auf sie zu werden, weil sie ihm gegenüber keine Liebesgefühle zeigt. Sie sagt ihm, dass es nun, da sie Königin ist, ihre Pflicht sei. Carlos versteht das, ist aber immer noch in sie verliebt. Er fällt ihr zu Füßen. Er packt sie und erklärt ihr seine Liebe zu ihr, aber die Königin reißt sich von ihm los, und er eilt verzweifelt davon.
Die Könige kommen aus der Kirche. Er ist sehr böse, dass seine Frau allein gelassen wurde. Er sagt der Hofdame, sie solle weggehen. Die Königin tröstet sie. Dann gehen sie und ihre Hofdamen.
Rodrigue bittet den König, den Kampf gegen das flämische Volk einzustellen, das immer noch stirbt und vor Hunger hungert. Der König sagt, sie seien nicht treu gewesen und verdienten es, bestraft zu werden. Er sagt Rodrigue, dass er Angst davor hat, was zwischen Elisabeth und Carlos vor sich geht. Er sagt ihm, er solle sich der Inquisition bewusst sein.
Akt III
Im Palast in Madrid findet ein Maskenball statt. Carlos wartet im Garten der Königin. Eine Dame kommt in den Garten und trägt eine Maske, wie alle anderen auch. Er hält sie für die Königin und sagt ihr, wie sehr er sie liebt. Als die Dame ihre Maske abnimmt, erkennt er, dass es sich um Eboni handelt. Sie beschuldigt ihn, die Königin zu lieben. In diesem Moment kommt Rodrigue. Er sagt zu Eboni, dass es Carlos nicht gut geht und er nicht versteht, wovon er spricht. Aber Eboni lässt sich nicht täuschen und plant, ihre Liebesbeziehung zu ruinieren.
Die zweite Szene des Aktes spielt auf einem Platz in Madrid. Ein Autodafé ist in Vorbereitung. Während der Zeit der spanischen Inquisition war dies eine Zeremonie, bei der jeder, der mit der römisch-katholischen Kirche nicht einverstanden war, verbrannt wurde. Mönche treten ein, gefolgt von den unglücklichen Menschen, die verbrannt werden sollen. Die Menschen singen über den Ruhm Spaniens. König Philippe erscheint und wiederholt, wie er gegen jeden kämpfen wird, der ein Feind der römisch-katholischen Kirche ist. Sechs Personen, darunter auch Carlos, erscheinen und werfen sich ihm zu Füßen und bitten ihn, seine Truppen davon abzuhalten, das flämische Volk zu töten. Der König will nichts davon hören. Einige aus der Menge unterstützen den König, aber andere flehen ihn um Gnade an. Daraufhin bittet Carlos seinen Vater, ihm zu erlauben, Flandern für ihn zu regieren. Der König lässt dies nicht zu, weil ihm klar ist, dass dies eine Gelegenheit für Carlos und das flämische Volk sein könnte, sich gegen ihn zu erheben. Carlos ist verzweifelt. Er zieht sein Schwert und sagt, dass er Flandern retten wird. Die Menge ist entsetzt, wenn sie sieht, wie er sich vor dem König so verhält. Der König befiehlt seinen Soldaten, Carlos das Schwert wegzunehmen, aber niemand gehorcht ihm. Am Ende rettet Rodrigue (der erkennt, dass dies schlecht für ihn sein wird) die Situation, indem er Carlos in aller Ruhe um das Schwert bittet. Er übergibt es und Rodrigue gibt es dem König. Die Mönche gehen weiter, und eine Stimme aus dem Himmel verspricht den Frieden in der kommenden Welt.
AktIV
Der König ist allein in der Kirche. In einer wunderbaren Arie singt er von seiner Traurigkeit darüber, dass seine Frau ihn nicht zu lieben scheint. Der Großinquisitor kommt herein. Er ist sehr alt und blind. Der König erzählt ihm von seinem Sohn und fragt den Inquisitor, ob Carlos vergeben oder zum Tode verurteilt werden sollte. Der Inquisitor antwortet, dass es Rodrigue sei, der getötet werden sollte. Der König wagt es, dem zu widersprechen. Der Inquisitor teilt dem König mit, dass er sein Herz nicht an Gott verschenkt. Der Inquisitor geht.
Die Königin stürmt herein und bittet den König, ihr bei der Suche nach einer Schatulle mit Juwelen zu helfen, die aus ihrem Zimmer verschwunden sind. Der König zeigt ihr, dass der Schmuck auf dem Tisch liegt. Er sagt ihr, sie müsse ihn öffnen. Sie tut dies. Oben ist ein Porträt von Carlos zu sehen. Der König ist sehr wütend und beschuldigt sie des Ehebruchs. Sie wird ohnmächtig. Der König bittet Eboli und Rodrigue um Hilfe. Der König hat Mitleid mit seinem Verdacht, aber Eboli tut es noch mehr leid, denn sie war es, die den Sarg genommen hatte, weil sie auf Carlos und Elisabeth eifersüchtig war. Sie war es, die dem König vorgeschlagen hatte, in der Schmuckschatulle nachzusehen. Rodrigue ist der Ansicht, dass er seinen Freund nur retten kann, wenn er sich selbst anbietet, anstelle von Carlos getötet zu werden. Der König und Rodrigue gehen. Eboni wirft sich der nun wiedererstandenen Königin zu Füßen und gesteht, dass sie selbst des Ehebruchs schuldig ist, weil sie mit dem König geschlafen hat. Elisabeth bleibt ruhig, aber sagt Eboni, sie solle für immer von ihr weggehen und in einem Nonnenkloster leben. Als Eboni allein gelassen wird, drückt sie ihre Gefühle des schrecklichen Elends aus. Bevor sie ins Nonnenkloster geht, muss sie noch eines tun: Sie muss versuchen, Carlos vor der Hinrichtung zu retten.
Die zweite Szene des Aktes zeigt Carlos im Gefängnis. Rodrigue kommt zu ihm. Er weiß, dass an Carlos gerichtete flämische Briefe in seinem Besitz gefunden wurden. Jemand kommt herein und tötet Rodrigue. Als er stirbt, sagt er Carlos, dass die Königin am nächsten Tag vor dem Nonnenkloster auf ihn warten und ihn zum letzten Mal sehen wird. Er stirbt.
Manchmal endet hier der vierte Akt, aber einige Aufführungen zeigen weiterhin eine Szene, in der der König versucht, seinem Sohn das Schwert zurückzugeben, aber Carlos beschuldigt ihn, seinen Freund ermordet zu haben. Eine Gruppe von Menschen, darunter Eboli, betritt das Gefängnis und ruft den König an, Carlos freizulassen. Der Inquisitor erscheint. Er teilt der Menge wütend mit, dass sie böse seien, gegen den Willen Gottes zu gehen. Er sagt ihnen allen, sie sollen auf die Knie gehen und Buße tun.
Akt V
Elisabeth kniet vor dem Grab von Karl V. Sie singt von ihrer verlorenen Jugend in Frankreich (ein Teil der Musik aus dem ersten Akt kommt hierher zurück). Sie betet für den Frieden. Elisabeth und Carlos treffen sich dann zum letzten Mal (ihr drittes Duett in der Oper) und wünschen sich glücklichere Zeiten. Der König und der Inquisitor haben sich versteckt. Jetzt erscheinen sie und schnappen sich Carlos. Die Wachen werden aufgefordert, ihn zu ergreifen, aber Carlos verteidigt sich. Plötzlich ertönt die Stimme von Karl V. (oder eines verkleideten Mönchs). Er bringt seinen Enkel in die Sicherheit des Klosters.
