С рождения живший в деревне, глухонемой крепостной крестьянин Герасим по приказанию своей старой барыни оказывается в ее городском доме, чтобы служить дворником. Постепенно он привыкает к городской жизни и своим обязанностям. Вся дворня проникается к Герасиму уважением вследствие его основательности, а также чрезвычайной физической силы. Некоторые даже боятся глухонемого, в том числе прачка Татьяна, у которой аж сердце замирает, когда приходится проходить мимо Герасима. Кроткая и скромная Татьяна привлекает внимание дворника и становится объектом его ненавязчивого ухаживания. 
Старой барыне, не знающей о зародившемся чувстве, вдруг приходит в голову фантазия женить пьяницу Капитона из числа дворни на Татьяне, чтобы остепенить его. Она отдает приказ своему управляющему, и тот улаживает это дело: чтобы отвадить Герасима от Татьяны, он подговаривает ее притвориться пьяной. Увидев шатающуюся по двору Татьяну, глухонемой теряет к ней всякий интерес. 
Спустя некоторое время Герасим спасает тонущего в реке щенка и выхаживает его. Собачка вырастает смышленой и послушной, помогает своему хозяину сторожить по ночам дом. Герасим зовет её характерным для глухонемых мычанием. Остальная дворня также привязывается к собачке и называет Муму. Однако, Муму не смогла угодить барыне, и та приказывает избавиться от собаки. После безуспешной попытки сделать это, управляющий добивается обещания от самого Герасима убить собаку. Герасим собственноручно топит Муму в реке и сразу после этого уходит с места своей службы и возвращается в родную деревню.