Następnie powrócił do Rzymu, gdzie, nierozpoznany, przeżył 17 lat w maleńkiej celi pod schodami rodzinnego domu. Życie spędził na modlitwie i nawiedzaniu sanktuariów rzymskich. Po śmierci znaleziono w jego ręku kartkę z opisem życia. Według legendy jego śmierć miały zwiastować dzwony wszystkich świątyń Wiecznego Miasta. W pogrzebie miał wziąć udział sam papież i cały Rzym. W jego życiorysie przemieszana jest tradycja z legendą.
W średniowieczu św. Aleksy był bardzo popularną postacią w Europie i Północnej Afryce. Patron licznych zakonów, a także ubogich, pielgrzymów, wędrowców, żebraków. Orędownik podczas trzęsienia ziemi, suszy, złej pogody, w czasie epidemii i plag. Powstały nawet rodziny zakonne pod jego patronatem: bracia aleksjanie, siostry aleksjanki (w. XIV), Kongregacja Sióstr Najświętszego Serca Jezusa i Maryi (w. XIX). Domniemany dom św. Aleksego miał stać w Awentynie. Tam też wystawiono w średniowieczu klasztor benedyktyński i kościół pod wezwaniem św. Aleksego (w. X). Obecna bazylika św. Aleksego pochodzi z w. XVII i należy do najpiękniejszych kościołów rzymskich.
Św. Aleksy był ulubioną postacią w średniowiecznej literaturze i w sztuce scenicznej. Poemat o św. Aleksym jest jednym z najstarszych zabytków języka we Francji. Pojawia się również wcześnie m. in. w tekstach niemieckich i polskich - "Legenda o św. Aleksym" (XV w.). W Polsce święty Aleksy odbierał szczególną cześć w Tumie pod Łęczycą oraz w Płocku.
W ikonografii św. Aleksy przedstawiany jest w ubiorze pustelnika lub pielgrzyma, czasami jako postać leżąca pod schodami. Atrybuty: księga, kij pielgrzyma, schody, zwój.