Село Гремячее находится в 105 верстах от г. Орла, в 25 верстах от г. Карачева, расположено на озере, впадающем в реку Навлю. Село получило свое название, по сказанию старожилов, от большого гремящего ключа, шум которого был далеко слышен в окружавшем лесу; этот ключ давал начало большому озеру.
Крестьяне тогда еще деревни Гремячего некогда находились в крепостной зависимости от Воскресенского Тихоновского монастыря чуть не с основания этого монастыря в 1600 г. и до его упразднения в 1765 г., составляя часть прихода села Ружного. С 1770 г., когда в Гремячем была устроена своя церковь, оно отделилось от Ружного вместе с деревней Сычовкой и образовало самостоятельный приход, существующий в том же составе и теперь. Прихожан – крестьян числится всего 2150 душ обоего пола, все они занимаются земледелием.
Храм в селе Гремячем деревянный, во имя Казанской Божией Матери, куплен со всей утварью в г. Трубчевске и перенесен в Гремячее в 1770 г.; сведения об этом заимствованы из устного предания, так как документы о построении храма сгорели в доме приходского священника во время пожара 1879 г.
В 1870 г. село Гремячее праздновало столетие своего храма. При храме есть придел во имя Богоявления Господня, устроенный землевладельцами Верёвкиными и освященный в 1815 г. Последний ремонт всего храма был в 1900 г., был возобновлен главный иконостас. В церкви имеется икона Казанской Божией Матери, взятая из храма села Ружного, вероятно, во время отделения от прихода этого села.
Причт состоит из священника и псаломщика; дома имеет собственные; жалования не получает. Церковной земли имеется 36 десятин. Угодий церковных и причтовых не имеется.
«Историческое описание церквей, приходов и монастырей Орловской Епархии». Том I. - Орел. Типография Губернского Правления, 1905 г.