Świątynia powstała w 1734 r. na miejscu spalonego drewnianego kościoła. Budowla posiadała nad wejściem inskrypcję: Gehet in Gottes Thore frölich ein mit Dancken (Wejdźcie radośnie w Bramy Boże z wdzięcznością), a nad oknami: Diess Haus ist erbaut zu Gottes Wahren Ehren so Lasst uns solchen Preis zu unserer Zelt vermehren (Ten dom został zbudowany dla boskiej chwały, by w naszych czasach ją rozsławiać). Pierwotnie wnętrze kościoła ozdabiała reprodukcja Ostatniej Wieczerzy Leonarda da Vinci umieszczona w ołtarzu, rokokowe organy i sufit z malowidłami o motywach biblijnych. Niestety, nic nie przetrwało do naszych czasów.
Do 1786 r. na terenie przylegającym do kościoła grzebano zmarłych. Cmentarz znajdował się przy południowym wyjściu, w miejscu gdzie obecnie rośnie „dąb pokoju” z 1871 r. zasadzony dla uczczenia poległych w wojnie prusko-francuskiej. W 1920 r. obok kościoła zasadzono „dąb plebiscytowy” na pamiątkę wygranego przez Niemców plebiscytu w Prusach Wschodnich. Po przybyciu do Mrągowa żołnierzy armii sowieckiej w 1945 r. kościół został spalony. Obecny kształt świątynia zawdzięcza odbudowie wykonanej w latach 1952 – 1961. Pierwsze nabożeństwo w odbudowanej świątyni odprawiono 8 października 1961 r.