Historia kaplicy przy Krakowskim Przedmieściu wiąże ze Zgromadzeniem Sióstr Karmelitanek Bosych, które w 1649 r. kanclerz Jerzy Ossoliński sprowadził z Krakowa do Warszawy. Wzniesiono dla nich drewniany klasztor i kościół w pobliżu dzisiejszej ul. Ossolińskich.

Budynki zostały jednak doszczętnie zniszczone podczas wojen szwedzkich. W 1663 r. Helena Tekla Lubomirska przekazała karmelitankom część pałacu Kazanowskich. W latach 1696-1699 do klasztoru dobudowano kościół, który przetrwał w niezmienionej formie do dziś.

W 1819 r. karmelitanki zmuszone zostały rozkazem carskim do opuszczenia klasztoru. Wróciły wówczas do Krakowa, a ich stołeczną siedzibę przekazano Warszawskiemu Towarzystwu Dobroczynności.

Opiekę nad kaplicą zaczęły sprawować siostry szarytki. Wtedy to zamieszczono na frontonie budynku napis Res Sacra Miser, a we wnętrzu dobudowano galerię i chór. Pierwszymi podopiecznymi WTD byli żołnierze inwalidzi z kampanii napoleońskiej.

Podczas Powstania Warszawskiego świątynia została częściowo zniszczona. Wkrótce po zakończeniu wojny przystąpiono do remontu budynku. Zakończono go w 1949 r. i wtedy kościół został oddany do użytku wiernych.

Rok później w dawnym klasztorze zorganizowano zakład opieki dla starców. Wtedy też całość zabudowań (poza świątynią) przejęły władze komunistyczne. W 1955 r. wydano nakaz rozbiórki kaplicy. Wobec licznych protestów mieszkańców, decyzja ta została cofnięta.

Od roku 1979 w kaplicy tej pracował ks. Jerzy Popiełuszko jako duszpasterz pielęgniarek. W 1998 r. szarytki opuściły „Res Sacra Miser”. Obecnie opiekę nad świątynią sprawuje rektor kościoła akademickiego św. Anny.

Jednonawowe wnętrze zdobi ołtarz główny, w którym znajduje się obraz Matki Bożej Częstochowskiej. Specjalny mechanizm umożliwia eksponowanie poprzedzających go czterech innych obrazów: Najświętszego Serca Pana Jezusa; Jezusa w Ogrójcu; Św. Wincentego a Paulo; Św. Ludwika de Marillaca w otoczeniu błogosławionych Sióstr Miłosierdzia.

Ciekawostką są także podziemia kaplicy, które otwarto tylko raz po wojnie i do których na razie nie ma dostępu. Konserwatorzy spodziewają się w nich odnaleźć z trumny zmarłych karmelitanek.

Kaplica Niepokalanego Poczęcia NMP udziela gościny wspólnotom anglikańskiej, ormiańskiej i litewskiej.