Церковь Сергия Радонежского известная ещё с конца 17 века, раньше она звалась «в Старых Серебренниках» или как её ещё называли в «Сторожах». Оба названия говорят о занятиях прихожан того времени. Церковь была освящена во имя преподобного Сергия Радонежского.
Чуть ниже места, где стоит церковь, в стене Белого города было сделано отверстие для реки Неглинной. Называлось оно Трубой, отсюда и место вокруг тоже стало называться Трубой, отсюда и название самой церкви «что на Трубе». Имела она и адрес «в Крапивках» - по названию местности, но чаще встречается название «на Трубе».
Наиболее ранняя часть существующего здания выстроена в 1678 году, а в 1702 году был построен вытянутый вдоль четверика и трапезной северный Никольский придел. В 1722 году был построен широкий южный придел Усекновения Главы Иоанна Предтечи, объединенный с пространством трапезной. В 1749 году был возведен ныне существующий второй ярус над древним четвериком и колокольня, от которой остался нижний объем с крупным горизонтальным рустом и тяжелым карнизом.
В 1883 году земля была передана Константинопольскому подворью - представительству Вселенского Патриарха в России, церковь Сергия была передана в ведение представительства. В 1917 году церковь называлась «храм преподобного Сергия Радонежского чудотворца при Константинопольском подворье».
В 1920 году церковь была закрыта, подворье ликвидировано. Колокольню сломали до второго яруса и сняли главу. Сохранилось здание Константинопольского подворья, расположенное позади храма. В 1960 году здание храма передали заводу металлических изделий.
Богослужения в храме возобновлены в 1991 году.