Początki święta związane są z odnalezieniem przez św. Helenę relikwii krzyża na początku IV wieku i poświęceniem w Jerozolimie bazyliki ku jego czci w 335 r. Na pamiątkę, tego wydarzenia, ostatecznie 14 września, w Kościele obchodzi się uroczystość Podwyższenia Krzyża świętego.
Znak krzyża był obecny w chrześcijaństwie od śmierci Jezusa. W początkach Kościoła nieraz przyjmował formę kotwicy albo trójzębu. Jako przedmiot kultu upowszechnił się i nabrał znaczenia po roku 313. W tym bowiem roku, według przekazu, cesarz Konstantyn Wielki, przed bitwą z uzurpatorem Maksencjuszem, zobaczył na tle słońca znak krzyża i słowa „w tym znaku zwyciężysz”. Poza tym tenże cesarz zniósł karę śmierci przez ukrzyżowanie…