Иван Иванович — человек добрый и почтенный. Его отличает красивая бекеша, которую он снимает в жаркую погоду, оставаясь в одной рубашке и наблюдая за происходящим во дворе и на улице. Любимое лакомство — дыня: съев её, он собирает семена в отдельную бумажку с надписью о дате употребления. Его дом с многочисленными пристройками и навесами напоминает губку, растущую на дереве. Сад Иван Ивановича богат разнообразными деревьями и огородными культурами. Уже более десяти лет он живёт вдовцом, детей не имеет, но нередко балует детей девки Гапки, которые играют во дворе, угощая их пряниками, бубликами, дыней или грушами. Иван Иванович — набожный человек, каждое воскресенье посещает церковь и после службы интересуется нуждами нищих. Когда он предлагает помощь искалеченной старухе, она протягивает к нему руку, а он в ответ утешает её словами, не позволяя стоять без дела. Он любит заглянуть к соседу Ивану Никифоровичу, к судье или городничему, ценит гостеприимство и подарки.
Иван Никифорович — тоже достойный человек, живёт рядом с Иваном Ивановичем. Между ними существует крепкая дружба. Он никогда не был женат и не собирался этого делать. Обычно проводит дни, отдыхая на крыльце, а если выходит осмотреть хозяйство, быстро возвращается к покою. В жаркую погоду любит купаться, погружаясь по горло в воду, устраивает рядом с собой стол и самовар и пьёт чай в прохладе.
Несмотря на близость и дружеские отношения, Иван Иванович и Иван Никифорович отличаются друг от друга. Иван Иванович высокий и стройный, а Иван Никифорович — невысокий, но широкий в плечах. Первый говорит очень приятно и выразительно, второй — молчалив, но если высказывается, то резко и метко. Форма головы у Ивана Ивановича напоминает редьку с хвостом вниз, а у Ивана Никифоровича — редьку с хвостом вверх. Иван Иванович любит бывать в разных местах, тогда как Иван Никифорович предпочитает оставаться дома. Первый очень любопытен и сразу даёт понять своё недовольство, в то время как у второго трудно определить настроение по выражению лица. Оба не выносят блох и всегда покупают у торговца эликсир против них, предварительно упрекая его в еврейской вере. Несмотря на различия, оба являются достойными людьми.
Однажды утром, лёжа под навесом и рассматривая своё хозяйство, Иван Иванович задумался о том, чего у него ещё нет. Его взгляд упал на двор соседа, где тощая женщина развешивала старые вещи, среди которых Иван Иванович заметил старое ружьё. Он решает пойти к Ивану Никифоровичу и попросить или обменять ружьё на бурую свинью с двумя мешками овса. Иван Никифорович отдыхал на ковре без одежды, они вместе пили водку и ели пироги со сметаной. Иван Иванович восхищался погодой, а Иван Никифорович ругал жару, что обидело первого. При разговоре о ружье Иван Никифорович отказывался отдавать его, объясняя важность оружия в хозяйстве. В ответ Иван Иванович назвал соседа «дурнем с писаною торбою», а тот обидно ответил, назвав его «гусаком». Это слово глубоко задело Иван Ивановича, и между ними разгорелся скандал. Иван Никифорович позвал женщину и мальчика, чтобы они вывели соседа из дома, а сам угрожал избить Ивану Ивановичу лицо. В ответ тот убегал, показывая кукиш.
Таким образом, два уважаемых мужчины, гордость Миргорода, поссорились из-за пустяка — оскорбительного слова. Сначала у них ещё оставалось желание помириться, но после приезда Агафии Федосеевны, которая подстрекала Ивана Никифоровича не прощать, вражда только усилилась. В знак презрения сосед построил прямо у пролаза через забор гусиный хлев. Ночью Иван Иванович тайно подпилил столбы хлева, и постройка с грохотом упала. Следующий день он провёл в тревоге, ожидая ответной мести, и поспешил подать жалобу в поветовый суд. За ним туда же направился Иван Никифорович с собственной жалобой. Судья пытался уговорить их помириться, но оба оставались непреклонны. Спутала дело бурая свинья Иванова, забравшая прошение соседа и унеся его из суда.
Городничий пришёл к Ивану Ивановичу с упрёками за поступок свиньи и пытался убедить примириться с соседом, но безрезультатно. Иван Никифорович подал новую жалобу, которая долго хранилась в шкафу. Между мужчинами усиливалась вражда, Иван Никифорович возвёл новый гусиный хлев. Весь город желал их примирения, но это оказалось невозможным. Они избегали друг друга, не могли находиться вместе.
На одном из собраний, устроенных городничим, общество хитростью свело соседей лицом к лицу, убеждая пожать друг другу руки в знак примирения. Иван Никифорович, вспомнив причину ссоры, произнёс, что Иван Иванович обиделся из-за пустяка — за то, что его назвали гусаком. Это снова взбесило Ивана Ивановича, и примирение сорвалось.
Прошло двенадцать лет. В праздничный день в церкви, стоя в разной части храма, можно было увидеть двух постаревших мужчин — Ивана Ивановича и Ивана Никифоровича. Они всё ещё были озабочены судебным разбирательством, которое продолжалось в Полтаве, и даже в плохую погоду Иван Никифорович ездил туда в надежде выиграть дело, а Иван Иванович с нетерпением ждал новостей. В Миргороде наступила осень с мрачной погодой: грязью, туманом, непрекращающимся дождём и пасмурным небом. Атмосфера жизни в городе стала унылой и однообразной.
