Cmentarz został wybudowany przez Oddział Grobów Wojennych C. i K. Komendantury Wojskowej w Krakowie. W okresie międzywojennym o cmentarz nie dbano, zarastał trawą i niszczał. Podczas II wojny światowej armia niemiecka urządziła na nim stanowisko obrony przeciwlotniczej, niszcząc bramę wejściową. Po wojnie dokończono dzieło zniszczenia cmentarza i w połowie lat 60. XX wieku wywieziono z jego terenu pozostałe elementy wyposażenia i splantowano obszar nekropolii, nie ekshumując prochów poległych.

W 2011 roku Miasto rozpoczęło odtwarzanie cmentarza. Zrekonstruowano bramę i ogrodzenie od strony zachodniej oraz obelisk w centrum nekropolii. Cmentarz wojenny numer 202 znajduje się w północnej części Tarnowa, ograniczony ulicami Starodąbrowską, Szpitalną oraz al. Matki Bożej Fatimskiej. Znane są nazwiska prawie połowy tu pochowanych żołnierzy. W 2022 roku odtworzono ich kwatery.

W 2015 roku cmentarz wpisano do rejestru zabytków województwa małopolskiego.