Корреспондент газеты «Красный кавалерист» Лютов, выступающий рассказчиком и лирическим героем, оказывается в рядах Первой Конной армии под командованием С. Буденного. В ходе боевых действий с поляками армия совершает поход по Западной Украине и Галиции. Лютов чувствует себя чужим среди конармейцев: он интеллигент, очкарик, еврей, и бойцы относятся к нему с насмешкой и даже враждебностью. Начальник дивизии Савицкий, получив от Лютова документы о прикомандировании, выражает пренебрежение. На фронте царят жестокость и суровые условия, где привыкли жить одним днем. Казаки издевательски выбрасывают сундучок Лютова, и он с трудом собирает разлетевшиеся бумаги. Изголодавшись, Лютов настойчиво требует еды у хозяйки, а, не получив ответа, толкает её в грудь, убивает шатающегося по двору гуся и приказывает приготовить его. После этого казаки перестают насмехаться над ним и принимают в свою компанию, однако сердце Лютова, окрашенное убийством, продолжает мучить его даже во сне.

Несмотря на приобретённый опыт войны, Лютов остаётся «мягкотелым» интеллигентом. После боя он встречает смертельно раненого телефониста Долгушова, который умоляет его выстрелить ему в голову, чтобы избежать мучений и насмешек врагов. Тяжёлое ранение лишает Долгушова жизни, однако Лютов не в силах выполнить просьбу. Он обращается к взводному Афоньке Биде, который сам заканчивает страдания раненого, что вызывает у него гнев и угрозы в адрес Лютова за его жалостливость.

Лютов завидует твёрдости и решительности своих товарищей и стремится понять их взгляды, в том числе и жестокость. Красный генерал Матвей Родионыч рассказывает, как отомстил своему бывшему барину Никитинскому, который до революции свиней пас и приставал к жене Матвея. Генерал не убивает барина сразу, а мучит его на глазах сумасшедшей жены, полагая, что выстрелом просто отделаться нельзя, так как стрельба не доходит до человеческой души.

В письме в редакцию газеты конармеец Балмашев описывает случай в поезде на Бердичев, где бойцы впустили в теплушку женщину с грудным ребёнком, якобы едущую к мужу. Однако Балмашев замечает, что ребёнок скрывает под пелёнками мешок с солью. Он обвиняет женщину в обмане и выбрасывает её под откос. Увидев, что она осталась жива, Балмашев убивает её выстрелом, стремясь очистить «трудовую землю и республику» от позора.

Мальчик Василий Курдюков в письме матери просит прислать еды и рассказывает о своих братьях, сражающихся за красных. Один из них, Фёдор, попав в плен, был жестоко замучен отцом — белогвардейцем и командиром роты у Деникина, который резал сына до смерти. Позже сам отец, пытавшийся скрыться, был найден и убит вторым сыном Степаном при участии Васи.

Кубанец Прищепа, бежавший от белогвардейцев, которые убили его родителей и разграбили имущество, возвращается в родную станицу после изгнания белых. Он собирает свои вещи, обнаруживая в домах следы насилия и поругания — старух, повешенных собак, осквернённые иконы. После двух суток в отчем доме, наполненных плачем, пением и разрушением, его хата вспыхивает пожаром. Он убивает корову, выводит её из стойла, бросает в огонь прядь своих волос и уходит.

Эскадронный Трунов занимается поиском офицеров среди пленных поляков. Он надевает офицерскую фуражку на старика, который утверждает, что не является офицером, и убивает его. К умирающему подходит мародёр Андрюшка Восьмилетов, снимает с него штаны и пытается забрать мундира, но получает предупреждение от Трунова. Позже оба вступают в бой с американскими аэропланами и погибают, пытаясь сбить их пулемётом.

В произведении значительное место занимает история лошади, важной для конармейцев как друга и отца. Начальник дивизии Савицкий отбирает у командира первого эскадрона белого жеребца, что вызывает у Хлебникова желание отомстить. После смещения Савицкого Хлебников обращается в штаб с просьбой вернуть лошадь, но получает отказ. В итоге он выражает обиду на Коммунистическую партию и демобилизуется как инвалид с шестью ранениями.

Конармеец Афонька Бида, потерявший любимого коня, надолго исчезает, и его имя связывают с разбоями в деревнях. Когда дивизия входит в Берестечко, он появляется на рослом жеребце с ужасной опухолью на лице вместо глаза. В нём ещё жив дух вольницы, и он разрушает всё вокруг.

Особое место в повествовании занимает история икон Новоградского костела, созданных юродивым художником паном Аполеком, который своим искусством превратил святых в образы простых людей. На росписях костела апостол Павел изображён как хромой выкрест Янека, а Мария Магдалина — как еврейская девушка Элька, мать многих детей. Новому художнику не удаётся замазать эти образы. Рассказчик знакомится с паном Аполеком и получает от него портрет блаженного Франциска, а также кощунственную версию о браке Иисуса с незнатной девицей Деборой.

Лютов с сожалением наблюдает за разорённым войной еврейским бытом, пытающимся сохранить себя. Он посещает лавку старого еврея Гедали, где тот сетует на жестокость революции и мечтает о «сладкой революции» и «Интернационале добрых людей». Рассказчик убеждает Гедали, что Интернационал «питается порохом и кровью». Когда Лютов спрашивает о возможности купить традиционный еврейский коржик и чай, Гедали с горечью отвечает, что раньше это было возможно в харчевне, а теперь там лишь плачут.

Участвуя в субботней трапезе с мудрым рабби Моталэ Брацлавским и его непокорным сыном Ильёй, также воюющим в Красной Армии, Лютов испытывает жалость к разорённому традиционному укладу. Рабби призывает радоваться жизни, но Лютов уходит на вокзал, где его ждёт агитпоезд Первой Конной армии с сиянием огней, звуками радиостанции, шумом типографии и недописанной статьёй для газеты.