Był Grekiem i w 16. roku życia wstąpił do klasztoru położonego u stóp Synaju. Stał się tam uczniem opata Martyriusza. Kilka lat później wybra! życie pustelnicze w jaskini u stóp góry, w miejscowości Tola, osiem kilometrów od klasztoru św. Katarzyny. Samotność nie przeszkodziła mu jednak w prowadzeniu kierownictwa duchowego wielu osób, odwiedzał też niektóre klasztory koło Aleksandrii. Po czterdziestu latach życia pustelniczego został ihumenem monasteru na górze Synaj, a tym samym wrócił do życia w klasztorze. Na kilka lat przed śmiercią, tęskniąc za życiem pustelniczym, przekazał bratu, mnichowi w tym samym monasterze, kierowanie wspólnotą. Napisał m.in. traktat "Pouczenia dla pasterza" oraz dzieło - chyba najbardziej znane - "Drabina raju". Opisuje w nim stopnie, na jakie mnich powinien się wspiąć, aby dojść do spotkania z Bogiem w niebie. "Drabina raju" cieszyła się na Wschodzie wielką popularnością, podobnie jak na Zachodzie, gdzie wydano ją dopiero w XIII w.

     Dzieła Jana wywarły duży wpływ na rozwój duchowości mniszej. Ze względu na swą wiedzę i mądrość nazywany był Scholastykiem, a z racji wspomnianego dzieła Klimakiem (gr. klimakos - drabina).

     Wspominany jest 30 marca w kalendarzu liturgicznym zarówno w Kościele na Wschodzie, jak i w Martyrologium Rzymskim. Postać św. Jana Klimaka przypomniał Ojciec Święty Benedykt XVI w katechezie wygłoszonej 11 lutego 2009 r.