Поштовхом до написання роману стала подорож Панаса Мирного від Полтави до Гадяча. 1874 року у журналі «Правда» письменник опублікував нарис «Подоріжжя од Полтави до Гадяча», який і був покладений в основу майбутнього роману. Почута від візника розповідь про «відомого чи не на всю губернію розбишаку» Гнидку, що був засуджений на каторжні роботи, зосталася в пам'яті, «як здоровенний іржавий цвях, забитий в білу стіну його споминів». Найбільше ж дивувало Панаса Мирного те, що люди не засуджували вчинків Гнидки, а навпаки співчували йому, називали його нещасним чоловіком.

Робота над романом тривала чотири роки: з 1872 до 1875. Немає жодних свідчень про те, чи збирав Панас Мирний додаткові відомості про Василя Гнидку. Вочевидь, головний персонаж твору — Нечипір Вареник (Чіпка) — вигаданий персонаж, якого автор поселив у селі Піски Гетьманського повіту на Полтавщині. Село Піски існувало насправді, проте знаходилося воно у Гадяцькому повіті, а Гетьманський — вигаданий письменником.

Готовий рукопис повісті Рудченко надіслав братові Іванові, який тоді працював під літературним псевдонімом Іван Білик, був відомим фольклористом і літературним критиком. Той загалом схвально оцінив сюжет роману, проте зробив деякі суттєві зауваження. Всього редакцій роману було шість. Уже після третьої редакції, поради Івана Білика переросли у співпрацю з Панасом Мирним, спрямовану на вдосконалення твору.

Остаточний варіант роману не зміг вийти друком в Україні. Він був надрукований лише 1880 року у Женеві за сприяння Михайла Драгоманова.