Jakob var bland de första att bli kallad till att vara en av Jesu lärjungar. Han var bror med aposteln Johannes och de kallades för Åskans söner (Mark 3:13-19). Han brukar också kallas för Jakob den äldre för att inte blandas ihop med en annan apostel som också heter Jakob, Jakob den yngre, Alfeus son.
Jakobs attribut är en pilgrimsnäcka och en stav. I Apostlagärningarna 12 står det om Jakobs död. Han ska ha blivit begravd i staden Santiago de Compostela i Spanien som under en lång tid har varit ett viktigt pilgrimsmål för kristna.