Роман строится на трёх основных сюжетных линиях. Первая — повествование от лица ангела Агасфера, чьё имя переводится как «Возлюбленный Богом». Вторая — биография Паулуса фон Эйцена, современника Мартина Лютера младшего поколения. Третья — переписка между профессорами Зигфридом Байфусом, руководителем Института научного атеизма в Восточном Берлине, и Йоханааном Лёйхтентрагером из Еврейского университета в Иерусалиме.
Агасфер и Люцифер, бессмертные духи, созданные Богом в первый день творения, были низвергнуты с небес за отказ поклониться Адаму, созданному из праха и четырёх стихий. Их пути разошлись: в отличие от Люцифера, стремящегося к полному уничтожению мира, Агасфер верит в возможность его преобразования. С тех пор он обречён скитаться по земле до Страшного суда.
Агасфер пытается убедить ребе Йешуа, который считает себя Сыном Божьим и обладающим любовью Отца, что Бог, сотворивший вселенную, не является Богом любви. Если Йешуа действительно Сын Божий, он должен преобразовать этот жестокий и несправедливый мир. Однако Йешуа отказывается противостоять Богу и утвердить своё царство на земле, убеждённый, что любовь сильнее меча, и готов пожертвовать собой, взяв на себя грехи человечества.
Агасфер знает о предстоящих испытаниях Йешуа: предательстве Иуды, суде, распятии, смерти и воскресении, после чего тот возвысится к Богу. Но он уверен, что это не изменит устроенный мир. Люцифер, используя жадность Иуды Искариота, внушает ему мысль предать учителя, если тот сам того пожелает. Агасфер упрекает Йешуа в пассивности и предсказывает искажение его учения, в результате чего во имя любви будут совершаться жестокости и несправедливость. В последний раз он предлагает Йешуа стать вождём и царём Израиля, когда тот несёт крест на Голгофу и останавливается у ворот дома Агасфера. Агасфер прячет под одеждой огненный меч Божий и готов защитить страдальца, но Йешуа решает до конца испить чашу, дарованную Отцом. Разгневанный упрямством, Агасфер прогоняет его, а тот проклинает его, заявляя, что теперь Агасфер будет ждать возвращения Сына Человеческого.
Люцифер убеждает Агасфера спросить Йешуа, чего тот достиг, взяв на себя грехи мира, ведь мир не стал лучше после его мученической смерти. Агасфер нарушает покой Сына Человеческого и требует ответа, но тот по-прежнему утверждает, что истина в Боге, хотя его вера в справедливость Отца начинает колебаться.
Вместе они отправляются на поиски Бога, странствуя по бескрайним просторам Шеола и встречая древнего старца, который пишет на песке строки из Книги Жизни, мгновенно смываемые ветром. Этот старец оказывается Богом, разочарованным своим творением, которое живёт по собственным законам и не поддаётся изменению. Сын Человеческий возмущается тем, что Отец послал его на крестную муку, заранее зная её тщетность. Он выступает против священных устоев, что приводит к Армагеддону — последней битве на земле. За ним следуют четыре всадника — Огонь, Война, Голод и Смерть, полчища Гога и Магога, ангелы бездны, низвергнутые с небес вместе с Люцифером и Агасфером, а впереди шествует зверь с семью головами и десятью рогами, именуемый Антихристом.
Люцифер и Агасфер наблюдают подготовку к битве: звёзды падают с неба, открывая бездну, земля охвачена пламенем, люди прячутся в пещерах и ущельях, но смерть настигает их повсюду. Сын Человеческий с войском поднимается всё выше, в поисках нового Иерусалима, выстроенного из яшмы и чистого золота, но его не находит. Когда воины начинают сомневаться, он провозглашает, что Бог потерпел поражение и убежал, а теперь он сам стал Богом и создаст новое небо и новую землю — царство любви и справедливости, где человек не будет врагом человеку. Его слова вызывают насмешки со стороны четырёх всадников, Гогов, Магогов и зверя с семью головами. Раздаётся дьявольский смех Люцифера, и появляется старец, писавший Книгу Жизни. Сын Человеческий пытается поразить его мечом, но старец утверждает, что Сын подобен Отцу и неотделим от Него. Старец становится гигантским, в его деснице помещается всё сущее, и он произносит тайное имя Бога. Перед глазами Агасфера всё исчезает, остаётся лишь измождённый и тщедушный ребе Йешуа. Агасфер слышит отдалённый смех — это всё, что осталось от Люцифера, Повелителя бездны и великого борца за порядок. Агасфер и Йешуа падают в бездну, одновременно пространство и время, где нет ни верха, ни низа, а лишь потоки частиц — ещё не разделённых на свет и тьму. Они сливаются в любви и становятся единым целым, а поскольку Бог един с Сыном, Агасфер становится единым с Ним — «одним существом, одной великой мыслью, одной мечтой».
Студент Паулус фон Эйцен, направляющийся в Виттенберг учиться у Лютера и Меланхтона, знакомится на постоялом дворе с Хансом Лёйхтентрагером, чьё имя по смыслу совпадает с именем Люцифера — «несущий свет». Ханс становится постоянным спутником и советником Эйцена на протяжении всей его жизни. Благодаря помощи Ханса, обладающего знаниями магии и волшебства, ленивый и недалёкий, но честолюбивый Эйцен успешно сдаёт экзамены, завоёвывает доверие Лютера и становится пастором. Он делает карьеру, не задумываясь о целях Ханса. На пути Эйцена неоднократно появляется таинственная фигура Вечного Жида, или Агасфера, который неизменно обманывает жадного и сластолюбивого Эйцена, ярого антисемита, считающего христианство средством достижения власти и расправы с противниками.
Эйцен организует диспут между христианами и иудеями, приглашая Вечного Жида в качестве свидетеля того, что Иисус был истинным Мессией и Сыном Божьим. Эйцен надеется обратить иудеев в истинную веру и прославиться. Однако Агасфер лишь насмехается над религиозным ханжеством и глупостью Эйцена, за что подвергается жестоким пыткам. Избитый Агасфер умирает, и Эйцен уверен, что избавился от навязчивого еврея. Спустя годы Агасфер, всё такой же моложавый и насмешливый, вновь является перед постаревшим Эйценом. Вместе с Лёйхтентрагером, который уже открыто признаётся Люцифером, Агасфер забирает душу Эйцена, читая слова пророка Иезекииля, обличающие дурных пастырей.
Профессор Йоханаан Лёйхтентрагер начинает переписку с Зигфридом Байфусом, сообщая, что лично знаком с Агасфером, современником ребе Йешуа. Байфус, воинствующий атеист, придерживающийся диалектического материализма, пытается опровергнуть это, но постепенно всё больше увлекается загадкой Агасфера. Наблюдающие за перепиской «компетентные органы» ГДР советуют Байфусу прекратить контакты, опасаясь, что Лёйхтентрагер и Агасфер приедут в ГДР и убедят марксиста в реальном существовании Вечного Жида. Несмотря на запреты, они прибывают в ГДР 31 декабря 1981 года и посещают Байфуса в Институте научного атеизма, после чего тот приглашает их к себе домой, где семья и друзья готовятся к празднованию Нового года.
В кабинете Байфус запирается с Агасфером и Лёйхтентрагером, и, по рассказу жены, ведёт с ними долгий и жаркий спор. После полуночи в стене кабинета обнаруживают большую дыру с обугленными краями, но в комнате никого не оказывается. В ходе расследования выясняется, что израильтяне Агасфер и Лёйхтентрагер не имели виз и не были зарегистрированы на контрольно-пропускных пунктах. Позже становится известно, что в ночь с 31 декабря 1980 года на 1 января 1981 года дежурные с дозорной башни на пограничном переходе на Фридрихштрассе наблюдали троих неизвестных, движущихся по воздуху: двоих с огненным хвостом и третьего, которого несли под руки. Нарушители перелетели границу ГДР, набрали высоту и исчезли из поля зрения. Об этом «компетентные органы» узнали значительно позже, поскольку дежурных обвинили в употреблении спиртного на службе и отправили на наказание.
