В начале XX века тесная дружба объединяет двух школьных товарищей — Жака Тибо и Даниэля де Фонтанена. Обнаружение их переписки одним из преподавателей приводит к трагическим последствиям. Оскорблённый вмешательством учителей, которые грубо изъяли его «серую тетрадь» и исказили значение его дружбы с Даниэлем, Жак вместе с другом решает сбежать из дома. В Марселе они безуспешно пытаются попасть на корабль, затем решают пешком добраться до Тулона, но их задерживают и возвращают домой. Отъезд Даниэля тяжело сказывается на его младшей сестре Женни, которая заболевает. Отец детей, Жером де Фонтанен, давно покинул семью и появляется редко. Его жена, обладающая умом, благородством и самоотверженностью, вынуждена постоянно обманывать детей, объясняя отсутствие мужа. Выздоровление Женни и возвращение Даниэля восстанавливают атмосферу счастья в доме.
Обстановка в семье Тибо противоположна. Жак испытывает страх и ненависть к своему отцу — старому деспоту, эгоистичному и жестокому человеку, который обращается с младшим сыном как с преступником. Успехи старшего сына Антуана, студента-медика, служат источником гордости отца, и он решает отправить Жака в основанную им исправительную колонию для мальчиков в Круи. Несмотря на возмущение Антуана жестоким решением отца, ему не удаётся изменить ситуацию.
Спустя несколько месяцев Антуан, обеспокоенный судьбой младшего брата, тайно отправляется в Круи и проводит собственное расследование в колонии. Внешне всё кажется нормальным, но он замечает тревожные изменения в Жаке: тот стал чрезмерно воспитанным, покорным и равнодушным. Во время прогулки Антуан пытается завоевать доверие брата, и после первого молчания Жак со слезами рассказывает о своём одиночестве, постоянном наблюдении и безделье, которые приводят к его деградации. Он не жалуется и никого не обвиняет, но Антуан понимает, что Жак живёт в постоянном страхе. Теперь он не стремится ни убежать, ни вернуться домой: там он хотя бы свободен от семьи. Его единственное желание — сохранить состояние безразличия, в которое он впал. Вернувшись в Париж, Антуан горячо спорит с отцом, требуя отмены наказания, но тот остаётся непреклонен. Освобождение Жака добивается аббат Векар, духовник господина Тибо, пригрозив старику муками ада.
Жак поселяется у старшего брата, который уже получил медицинский диплом, в небольшой квартире в отцовском доме. Он возобновляет общение с Даниэлем. Антуан, считая запрет отца на эту дружбу несправедливым и нелепым, сопровождает Жака к Фонтаненам. Женни с первого взгляда неприязненно относится к Жаку, не может простить причинённое им зло и, ревнуя к брату, почти радуется его непривлекательности.
Через несколько месяцев Жак поступает в Эколь Нормаль, а Даниэль занимается живописью, редактирует художественный журнал и наслаждается жизнью. Антуана вызывают к постели девочки, пострадавшей в ДТП. Операция, проведённая им в домашних условиях на обеденном столе, вызывает восхищение окружающих. Соседка Рашель, помогавшая ему, становится его любовницей, благодаря чему Антуан освобождается от внутренней скованности и находит себя.
На даче в Мезон-Лаффите Женни постепенно, почти невольно, меняет отношение к Жаку. Она наблюдает, как он признаётся ей в любви, целуя её тень. Женни пребывает в смятении и отрицает собственные чувства. Рашель уезжает в Африку к своему прежнему любовнику Гиршу, человеку порочному и опасному, обладающему над ней мистическим влиянием.
Прошло несколько лет. Антуан стал успешным врачом с большой практикой. Он навещает больного отца, убеждён в неизбежной смерти последнего. Его привлекает воспитанница отца Жиз, которую Антуан и Жак считали своей сестрой. Антуан пытается с ней поговорить, но она уклоняется от беседы. Жиз любит Жака и после его исчезновения три года назад единственная не верила в его смерть. Антуан много размышляет о жизни, смерти и смысле бытия, при этом не отказывается от радостей жизни.
Господин Тибо подозревает истинные обстоятельства, но, успокоенный Антуаном, разыгрывает сцену назидательной кончины. Антуан получает письмо, адресованное младшему брату. Узнав, что Жак жив, он стремится найти его и привезти к умирающему отцу. Прочитав новеллу «Сестрёнка», написанную Жаком и опубликованную в швейцарском журнале, Антуан обнаруживает следы брата в Швейцарии, где тот занимается журналистикой и пишет рассказы.
Найдя Жака в Лозанне, Антуан сталкивается с яростным сопротивлением брата, который не желает возвращаться к прежней жизни. Тем не менее Жак соглашается сопровождать его домой. Господин Тибо осознаёт приближение смерти. Антуан и Жак приезжают в Париж, но отец уже без сознания. Его кончина глубоко потрясает Антуана, который, разбирая бумаги отца, с горечью понимает, что, несмотря на внушительный облик, тот был несчастным человеком, и что он, хотя и был сыном, так и не узнал его по-настоящему. Жиз приходит к Жаку, но в разговоре осознаёт, что их связь навсегда разорвана. Летом 1914 года Жак вновь в Швейцарии, среди революционной эмиграции, исполняет секретные поручения социалистических организаций. Новость о террористическом акте в Сараево вызывает у него и его товарищей тревогу. Прибыв в Париж, он обсуждает с Антуаном политическую ситуацию и пытается привлечь брата к борьбе против надвигающейся войны, но Антуан остаётся равнодушен и отказывается участвовать.
Жером де Фонтанен, запутавшись в тёмных делах, пытается покончить с собой в гостинице. У постели умирающего Жака встречаются Женни и Даниэль. Женни старается разобраться в своих чувствах и вновь надеется на счастье с Жаком. Даниэль отправляется на фронт. Жак открывается Женни, и между ними зарождается взаимная любовь.
Объявление войны не останавливает Жака, который пишет антивоенные листовки и планирует разбросать их с самолёта над фронтом. Однако самолёт терпит крушение, и тяжело раненого Жака принимают за шпиона. При отступлении французских войск его убивает французский жандарм.
В 1918 году Антуан, отравленный ипритом на фронте, лечится в военном госпитале. После выписки он проводит несколько дней в Мезон-Лаффите, где живут Женни, Даниэль, госпожа де Фонтанен и Жиз. Война сделала Даниэля инвалидом. Женни воспитывает сына Жака, а Жиз переносит свою любовь к Жаку на ребёнка и Женни. Антуан, обнаружив в лице и характере мальчика черты погибшего брата, видит в нём последнюю надежду на продолжение рода, поскольку понимает, что его собственное выздоровление маловероятно. Ведя дневник с клиническими записями и изучая литературу о лечении отравлений газами, он стремится быть полезным людям даже после смерти. На пороге собственной гибели Антуан наконец осознаёт младшего брата и трезво оценивает свою жизнь, много размышляя о маленьком Жан-Поле. Последними словами его дневника становятся: «Гораздо проще, чем думают. Жан-Поль».
