に従い: in accordance with; according to

導師どうしの教おしえに従にしたがい、彼かれらは巡礼じゅんれいの旅に出たびにでた。

Following the guide's teachings, they set out on a pilgrimage.