Narodil se v prvních letech 4. st. v Mezopotámii, ve městě Nisibii. Jeho rodiče byli zemědělci. Vychovávali chlapce v křesťanské víře. Avšak mladá léta nebyla u Efréma bez mravních pádů. Byl od přírody výbušný, často se hádal, jednal bez rozmyšlení, býval rváčem. Choval v srdci závist a byl zatrvzelý k chudým lidem. Pochyboval o víře a zvláště o boží prozřetelnosti.
Bůh jej však vyléčil následujícím způsobem: Jednou byl nevinně obviněn z krádeže ovcí a uvržen do žaláře. Brzy k němu zavřeli ještě dva muže, též nespravedlivě odsouzené. Když byl Efrém ve vězení sedm dní, slyšel ve snu hlas: „Dnes nejsi vinen, ale trpíš za předchozí hříchy. Stejně trpí i ostatní.“ Když se probudil, řekl o snu druhým a každý z nich se zamyslil nad svým předcházejícím životem a zjistili, že konali podobné špatné skutky. Nakonec byla na soudě prokázána Efrémova nevina, ale ten v tom již viděl boží ruku.
Brzy po návratu domů odešel do hor mezi městy Nisibis a Edessou, kde se stal učedníkem sv. Jakuba Nisibijského. Zde se z hněvivého a o všem pochybujího mládence stal pokorný a tichý poustevník, který stále oplakával své hříchy.
Jednou mu nesl bratr poustevník oběd, ale cestou upadl a rozbil nádobu, ve které bylo jídlo. Efrém se nerozhněval, ale s úsměvem řekl: „Když pokrm nechce k nám, musíme jít my k němu.“ Pak si lehl ke střepinám z hrnce a pojídal, co se ještě dalo.
Když se stal Jakub nisibijským biskupem, zavolal si učedníka k sobě a svěřil mu vyučování dětí. Jakub také vzal Efréma s sebou na první všeobecný koncil do Nicee (r. 325).
V té době chtěla jistá dívka svést Efréma k hříchu. Po dlouhém naléhání jí odpověděl: „Mám-li tak učinit, chci si zvolit místo, které by se mi zamlouvalo.“ „A kam spolu půjdeme?“ otázala se dívka. „Na tržiště na náměstí,“ odpověděl jí. Ta s hrůzou odvětila: „Vždyť se tam budeme muset stydět před lidmi.“ „Tak, ty hloupá, se stydíš před lidmi, ale před všudepřítomným Bohem se nestydíš?“ Tato slova v dívce způsobila obrat a polepšila svůj život.
Po Jakubově smrti, když dobyl perský král Sargon II. Nisibii (r. 363), odešel Efrém do Edessy. Zde se usadil na jedné hoře, kde vedl přísný asketický život. K jeho jeskyni se brzy začali sbíhat lidé, kteří od něj chtěli poučení. Sv. Efrém začal vyučovat a brzy založil v Edesse biblickou školu, ze které později vyšlo mnoho významných učitelů syrské církve.
Na konci života putoval Efrém do Egypta, kde navštívil otce žijící v poušti. Na zpáteční cestě se zastavil v Cézarei Kappadocké, aby se setkal se sv. Bazilem. Cézarejský biskup chtěl Efréma vysvětit na kněze, ale ten přijal jen diakonské svěcení.
Později chtěl sv. Bazil vysvětit Efréma na edesského biskupa, ale ten začal simulovat bláznovství a utekl z města. V úkrytu pak čekal, než byl ustanoven jiný biskup.
Po návratu do své edesské poustevny chtěl Efrém prožít zbytek života v samotě. Boží úradek však byl jiný. Obyvatelé města strádali v té době hladem. Starec proto sestoupil do města, kde tvrdými slovy přinutil bohaté, aby pomohli chudým.
Po návratu do poustevny onemocněl. Zbožně se připravil na smrt. Napsal poslední vůli, v níž praví, že nemá žádné pozemské statky. Žádal, aby byl pohřben prostě a bez okázalosti: „Nezpívejte na mém pohřbu žádné smuteční zpěvy, nedopusťte, aby se konala smuteční řeč. Nechci kadidelnice ani pochodně, ale přeji si být pochován jako chudí. Nevkládejte mou mrtvolu do cenné látky, ale hoďte ji do hrobu jako vyvrhele světa. Nedávejte mi pomník - jsem jen hniloba ...“ Brzy nato zemřel (asi r. 373).
Sv. Efrém byl především asketou, současně však měl velký poetický dar. Získal si velkou úctu v celém křesťanském světě. Byl nazýván „prorokem Syrů“, „harfou Ducha svatého“. Lyrikem byl i ve své kazatelské činnosti, svými slovy dokázal zpívat, kreslit. Často plakal. Jeho řeči jsou vedeny v duchu pokání podle evangelia. Zanechal po sobě mnoho děl. Jsou to obzvlášť biblicko-exegetické práce. Napsal též řadu básní, které se dostaly i do bohoslužeb.