Как известно, в 1837 году царь Николай I посетил освобожденную от персидского ига Восточную Армению. По этому случаю город Гюмри был переименован в Александрополь (в честь супруги императора Александры Феодоровны), а в военной крепости 4 октября в присутствии царя заложили храм во имя мученицы  Александры, небесной покровительницы императрицы. Строителем церкви был инженер-полковник Руденков. Освящение однопрестольного храма было совершено в 1842 году. Воинский храм мученицы Александры имеет крестообразную форму и может вместить до 800 человек.

По некоторым сведениям, 25 мая 1918 года турецкий карательный отряд численностью до 160 человек ворвался на территорию александропольской «Большой крепости». Увидев храм, турки решили осквернить его. Однако полковой священник Матфей Миронов успел закрыть все ставни на окнах и тяжёлые двери церкви. Попытки турок открыть двери храма и даже использование малой артиллерии оказались тщетны. Тогда турки подожгли здание. Храбрый священник был заживо сожжён вместе с храмом.

После многолетнего запустения крепостная церковь, находящаяся на территории 102-ой российской военной базы в городе Гюмри, была восстановлена в первоначальном виде. В 2008 году под эгидой Министерства обороны Российской Федерации начались ремонтно-восстановительные работы, а 8 мая 2009 года по благословению Святейшего Патриарха Московского и всея Руси Кирилла преосвященным Марком (Головковым), епископом Егорьевским (впоследствии митрополит Рязанский и Михайловский), был вновь освящён войсковой храм мученицы царицы Александры Римской. Регулярные богослужения в храме возобновлены стараниями настоятеля Подворья Патриарха Московского и всея Руси в Армении (ныне покойного) архимандрита Андрея (Ваца) (2010-2018). В настоящее время воинский приход окормляет иерей Тимофей Казарян, помощник командира 102-й ордена Александра Невского военной базы по работе с верующими военнослужащими.