Полковая церковь "Во имя всех святых" является редким памятником классицизма в Тихвине. Согласно легенде, она построена на берегу Тихвинки, там, где произошло "явление" иконы Богоматери. На месте нынешнего сооружения некогда стояли деревянная и каменная постройки, просуществовавшие до 1771 года. Дату строительства полковой церкви установить достаточно легко, так как в архивах Тихвинского монастыря говорится о "покрытии" построенной церкви и освящении её в 1775 году. Это был период переустройства города после губительного пожара 1770 г., уничтожившего все деревянные строения. В это время над планом застройки Тихвина работал архитектор Василий Поливанов, приехавший из Твери. Автор проекта реставрации полковой церкви архитектор И. П. Любарова высказывает предположение, что он и был её создателем. На генеральном плане Тихвина 1773 г., довольно точно изображена полковая церковь и ограда вокруг неё. Сохранился большой чертёж 1825 г. этой церкви с изображением южного фасада. Наконец, в отчётах Тихвинского монастыря за 1903 г. упомянуты работы по возобновлению постройки в 1886 г., когда был сделан новый престол, уложен деревянный пол, устроены отдушины в стенах.
Здание церкви представляет в плане вытянутый с запада на восток восьмерик, увенчанный восьмериковым фонариком с главкой. Храму присущи черты гражданской архитектуры, которые проявляются и в необычности плана, и в двухколонном портике, и в больших оконных проёмах, пропускающих в интерьер много света. Фасады церкви выкрашены охрой, а декоративные детали выделены белой краской. После реставрации здание используется как концертный зал при музее Н. А. Римского-Корсакова.
Из книги Гоголицын Ю. М., Гоголицына Т. М. Памятники архитектуры Ленинградской области. - Л.: Ленинградское отделение, 1987.