Nach alter örtlicher Tradition erschien Jakobus am 2. Januar des Jahres 40 n. Chr. die Jungfrau Maria am Ufer des Ebro bei Cäsaugusta, während er in Spanien das Evangelium verkündete. Sie erschien angeblich auf einer Säule, Nuestra Señora del Pilar, und diese Säule wird in der heutigen Basilika Unserer Lieben Frau von der Säule in Zaragoza, Spanien, aufbewahrt und verehrt. Nach dieser Erscheinung kehrte Jakobus nach Judäa zurück, wo er im Jahr 44 von König Herodes Agrippa I. enthauptet wurde.
Die Überführung seiner Reliquien von Judäa nach Galizien im Nordwesten der Iberischen Halbinsel wurde der Legende nach durch eine Reihe von wundersamen Ereignissen bewirkt: Herodes Agrippa selbst enthauptete in Jerusalem seinen Leichnam mit einem Schwert, sein Körper wurde von Engeln aufgenommen und segelte in einem ruderlosen, unbeaufsichtigten Boot nach Iria Flavia in Spanien, wo ein massiver Felsen seine Reliquien umschloss, die später nach Compostela gebracht wurden. Die Historia Compostellana aus dem 12. Jahrhundert gibt einen Überblick über die Legende des Heiligen Jakobus, wie sie in Compostela geglaubt wurde. Zwei Ideen stehen dabei im Mittelpunkt: erstens, dass Jakobus das Evangelium sowohl in Spanien als auch im Heiligen Land predigte; zweitens, dass nach seinem Martyrium durch Herodes Agrippa I. seine Jünger seinen Leichnam auf dem Seeweg nach Spanien trugen, wo sie bei Padrón an der Küste Galiciens landeten, und ihn ins Landesinnere zur Bestattung nach Santiago de Compostela brachten.
Die Authentizität der heiligen Reliquien von Compostela wurde in der Bulle von Papst Leo XIII., "Omnipotens Deus", vom 1. November 1884 bekräftigt.
Die Tradition in Compostela legte die Entdeckung der Reliquien des Heiligen in die Zeit von König Alfons II. (791-842) und Bischof Theodemir von Iria. Diese Traditionen bildeten die Grundlage für den Pilgerweg, der sich im 9. Jahrhundert zu etablieren begann, und das Jakobusheiligtum in Santiago de Compostela in Galizien in Spanien wurde zum berühmtesten Wallfahrtsort der christlichen Welt. Der Jakobsweg ist ein Baum von Routen, die Westeuropa durchqueren und über Nordspanien nach Santiago de Compostela gelangen. Schließlich wurde Jakobus zum Schutzpatron von Spanien.
Der Name "James" im Englischen kommt von "Iacobus" (Jakob) im Lateinischen. In Ostspanien wurde Jakobus zu "Jacome" oder "Jaime"; in Katalonien wurde er zu Jaume, in Westspanien zu "Iago" und in Portugal und Galizien zu Tiago. Aus "Sankt Jakobus" ("Sanctus Jacobus") wurde "Sant' Iago", was mit Santiago abgekürzt wurde. Jakobus' Emblem war die Jakobsmuschel (oder "Herzmuschel"), und die Pilger zu seinem Heiligtum trugen dieses Symbol oft auf ihren Hüten oder ihrer Kleidung.
