Místo narození sv. Jana ani jeho rodiče nejsou známí. Zdá se však, že pocházel z Egypta. Z jeho díla je zřejmé, že získal dobré vzdělání. V šestnácti letech vstoupil do Sinajského kláštera. Byl dán do výchovy starci Martiriovi, který ho po čtyřech letech přijal postřižením do mnišského stavu. Jeho poslušnost starci byla tak velká, že se zdálo, že nemá vlastní vůli.
Po smrti starce, pod jehož vedením prožil devatenáct let, se Jan vzdálil z kláštera do nedaleké pouště Tola, kde prožil v samotě čtyřicet roků. Každou sobotu a neděli přicházel do kláštera, aby se zúčastnil bohoslužeb a přijal svátosti. Po bohoslužbách rozmlouval s otci, aby si ověřil své myšlenky. V těchto rozhovorech mluvil Jan tak přirozeně, že býval nejoblíbenějším řečníkem. To přivedlo některé bratry k tomu, že začali Jana podezřívat z pýchy. Když se to Jan dozvěděl, nechtěl bratry pohoršovat a rozhodl se žít v mlčení. To trvalo celý rok. Jan mlčení přerušil až po usilovných prosbách těch samých bratří, kteří jej k tomuto sebezáporu dovedli.
Po čtyřiceti letech života v poušti byl Jan zvolen igumenem kláštera. Klášter vedl čtyři roky a pak se opět vrátil do pouště, kde brzy zemřel, ve věku osmdesáti let (r. 563).
Na prosbu raitského igumena napsal Jan svoji „Lestvicu“ (Žebř do ráje, Scala Paradisi). Ve třiceti kapitolách této knihy uvádí stupně duchovního výstupu k dokonalosti. V “Lestvici“ je popisován boj askety s takovými zly a strádáními, která jsou společná jak mnichovi, tak i člověku žijícímu ve světě. Kromě toho zde Jan ukazuje způsoby získání ctností, které jsou přístupné všem křesťanům. Kniha zobrazuje cestu postupného růstu k mravní dokonalosti. „Lestvica“ patří k nejlepším příručkám duchovního života.