Согласно историческому преданию, церковь св. Павла была основана в начале XII в. Она примечательна тем, что в ней были захоронены сердце и внутренности императора Священной Римской Империи Фридриха I Барбароссы, который утонул в нескольких десятках километров от этого тогда весьма многолюдного города.
Нынешнее здание было построено православной греко-арабской общиной в середине XIX в. (согласно табличке на самой церкви - в 1850, согласно некоторым другим источникам - в 1862). В первой половине ХХ в. численность христиан в Тарсе заметно снизилась, и в 1943 г. здание церкви было национализировано. С тех пор оно используется как музей и концертный зал. Тем не менее, иногда в храме устраиваются христианские службы.