Nacido en Nisibis (Mesopotamia), fue bautizado de joven y se hizo famoso como maestro en su ciudad natal. Cuando el emperador cristiano tuvo que ceder Nisibis a los persas, Efrén huyó como refugiado a Edesa, junto con otros muchos cristianos. Se le atribuye haber atraído gran gloria a la escuela bíblica de allí. Fue ordenado diácono, pero renunció a ser sacerdote.
Fue un gran escritor y sus escritos demuestran su santidad. Aunque no era un hombre de gran erudición, sus obras reflejan una profunda perspicacia y conocimiento de las Escrituras. Al escribir sobre los misterios de la redención de la humanidad, Efrén revela un espíritu realista y humanamente comprensivo y una gran devoción por la humanidad de Jesús. Se dice que su relato poético del Juicio Final inspiró a Dante.
Sorprende leer que escribió himnos contra los herejes de su tiempo. Tomaba las canciones populares de los grupos heréticos y, utilizando sus melodías, componía bellos himnos que encarnaban la doctrina ortodoxa. Efrén fue uno de los primeros en introducir el canto en el culto público de la Iglesia como medio de instrucción para los fieles. Sus numerosos himnos le valieron el título de "Arpa del Espíritu Santo".
Efrén prefirió una vida sencilla y austera, viviendo en una pequeña cueva con vistas a la ciudad de Edesa. Allí murió hacia 373.