Этот храм имеет необычную архитектуру и весьма отличается от других православных церквей на территории Беларуси. Он имеет форму корабля, был построен из дерева в 1783 году при финансовой поддержке местного владельца Несиославского. Возможно, что храм в Малых Жуховичах существовал еще в 1500-е годы. В документах упоминается, что в это время священнослужители из Малых и Больших Жуховичей обращались к властям с просьбой вернуть отобранные у прихода земли. В этом храме в XVI столетии создавалось Маложуховицкое Евангелие – памятник старобелорусского книгописания. В 18 веке при храме Иоанна Предтечи действовала церковно-приходская школа, хотя деревня не насчитывала и 50 домов.

Историки склоняются к мнению, что возведение ее основного объема относится к концу XVIII века, тогда как в 1878 году здание было лишь перестроено в ретроспективно-русском стиле. Именно с этим связывают появление звонницы, а также целого ряда архитектурных элементов, характерных для этого архитектурного направления, включая луковичные главки, венчающие основной объем и шатровую колокольню.

Храму удалось уцелеть в годы Первой мировой и Великой Отечественной войн, однако в 1961 году его закрыли. Здесь хотели устроить зернохранилище, но люди отстояли святыню, тогда двери просто закрыли. С течением времени разбились окна, сюда попадал дождь и снег, различный сор, гнездились птицы. Перед большими праздниками люди потихоньку открывали двери церкви и делали уборку. Среди местных жителей нашелся уважаемый всеми человек, который проводил службы, читая молитвы. Возобновление богослужений здесь началось с конца 1980-х годов, когда церковь была возвращена верующим.

Сейчас деревянная церковь с бетонным фундаментом выкрашена в светло зеленые тона, она имеет продолговатые окна и белую дверь. Эта церковь дорога местным жителям и интересна туристам.

Убранство храма деревянное, ему много лет. Выполнено оно в таком же стиле, что и в храме Больших Жуховичей. Такую память о себе оставил местный умелец Андрей Иванович Кандера, или, как его называли в народе, Плотяк. Прекрасной работы оклады на иконах, резьба — все это очень хорошо сохранилось и свидетельствует о том, что прихожане как зеницу ока берегут свою святыню.

В храме находится местночтимая икона Божией Матери, написанная по золочёному фону на доске и покрытая серебряной ризой. В актах описи за 1879 года указанно: «при сей иконе находится несколько серебряных привесок», что свидетельствует об особом почитании этого образа.