Johannes vom Kreuz wurde als Juan de Yepes Álvarez am 24. Juni 1542 in Fontiveros bei Ávila (Spanien) geboren. Er wuchs als Sohn armer Weber auf, als sein Vater starb, zog seine Mutter Catalina Álvarez mit ihm und seinem Bruder nach Medina del Campo. Dort erhielt er in der Armenschule Colegio de los Doctrios und anschließend im neugegründeten Kolleg der Jesuiten eine sehr gute schulische Ausbildung. Nebenbei half er als Pfleger im Hospital.

1563 trat er in den Orden der Karmeliten ein und nahm den Namen Juan de San Matía an. An der Universität Salamanca studierte er Theologie und Philosophie. In einer Zeit als er sich mit der Idee trug in den Kartäuserorden überzutreten, lernte er Teresa von Ávila kennen. Er konnte sich von ihren Reform und Gründungsgedanken begeistern, so dass er sich entschloss im Karmel zu bleiben und nach Teresa von Jesús Vorstellungen zu leben. Nach dem Ende des Studium, begann er nun als Juan de la Cruz am 28. November 1568 zusammen mit seinem Mitbruder Antonio de Jesús de Heredia das Leben als „Descalzo“ (Unbeschuhter) in Duruelo.

Im neugegründeten Ordens wurde Johannes vom Kreuz zunächst Novizenmeister, dann Rektor des Studienkollegs in Alcalá de Henares und ab 1572 Beichtvater im Karmel von der Menschwerdung in Ávila, als Teresa von Jesus dort als Priorin eingesetzt war.

Wegen der unterschiedlichen Reformvorstellungen zwischen der Päpstlichen Kurie in Rom (es ist die Zeit des Konzils von Trient) und dem Spanischen Hof unter König Philipp II, kam es zwischen dem Stammorden und den von Teresa von Ávila gegründeten "Unbeschuhten" zu heftigen Auseinandersetzungen. Im Zuge dieser wird Johannes vom Kreuz in der Nacht vom 2. auf den 3. Dezember 1577 in den Kerker des Klosters des Stammordens in Toledo verschleppt, und dort als hartnäckiger Rebell misshandelt und gedemütigt. Diese Zeit in der er zur eigentlichen Mitte und Gotteserfahrung vorstösst, wird für Ihn spirituell wesentlich.

So entstehen, trotz der schwierigen Haftbedingungen unter anderem sein Mystisches Werk "Cantico espiritual" (Geistlicher Gesang), in dem die Menschenseele ihre Sehnsucht nach dem entschwundenen Geliebten besingt, während sein bekanntestes Gedicht Die dunkle Nacht und dessen Kommentar danach entstand. Seine Gedichte und Schriften gehören bis heute zu den Klassikern der spanischen Sprache.

Im August 1578 gelang Johannes vom Kreuz eine abenteuerliche Flucht aus dem Klosterkerker, er schlug sich bis zum abgelegenen Kloster Clavario durch, von wo aus er wieder mit der geistlichen Begleitung von "seinen" Karmelitinnen begann.

Bereits am 13. Juni 1579 gründete er in Baeza das erste Studienkolleg für die andalusischen Studenten der Unbeschuhten; 1582 wurde er Prior des Klosters in Granada, 1585 Provinzdefinitor und dann Provinzvikar von Andalusien, mit großer Reisetätigkeit von im Schnitt täglich 15 km.

In dieser Zeit verfasste er seine Schriften, Kommentare zu seinen Gedichten: Aufstieg auf den Berg Karmel, Die Dunkle Nacht, Geistlicher Gesangund Lebendige Liebesflamme. Darüber hinaus wirkte er in verschiedenen Klöstern der Unbeschuhten Karmelitinnen und auch außerhalb des Ordens als Geistlicher Begleiter und Seelsorger. 1588 wurde er Prior des Klosters der Unbeschuhten Karmeliten in Segovia und Mitglied der Ordensleitung.

Beim Generalkapitels des Ordens 1591 in Madrid wurde er ein Opfer von Richtungsstreitigkeiten im jungen Orden, weil er die Reformen Teresas gegen den Rigorismus des Generalvikars Nicolás Doria verteidigte. Von der Ordensleitung ausgestossen, zog er sich nach Úbeda (Jaén) zurück, wo er am 14. Dezember 1591 starb.

Sein Grab befindet sich in der Karmeliten-Kirche in Segovia in einem Schrein von 1926 auf dem Hauptaltar. Viele Mitbrüder und Menschen außerhalb des Ordens verehrten ihn schon bald. Die Chronik des Ordens entstellte seine Vita jedoch, so dass er bis in die jüngste Zeit hinein als Rigorist und Asket verkannt wurde, während er viel mehr ein großer Liebender von Gott und den Menschen war. Das bekannte Gedicht Nada te turbe, das man nach dem Tod von Teresa von Ávila in deren Stundenbuch in ihrer Handschrift fand, wurde für eines ihrer eigenen Gedichte gehalten. Heute geht die Sanjuanistische Forschung davon aus, dass es sich um ein Gedicht von Johannes vom Kreuz handelt.

Am 25. Januar 1675 wurde Johannes vom Kreuz seliggesprochen, am 27. Dezember 1726 erfolgte die Heiligsprechung. Am 24. August 1926 erhob ihn Papst Pius XI zum Kirchenlehrer. Im März 1993 bestimmte ihn Papst Johannes Paul II zum Schutzpatron der spanischen Dichter.