Po zajęciu miasta 7 września 1939 roku przez oddziały Wehrmachtu, od razu rozpoczęły się represje wobec polskiej i żydowskiej ludności. Pierwsza egzekucja w lesie 42 Polaków schwytanych na posiadaniu broni miała miejsce 11 grudnia 1939 roku. 11 czerwca 1942 roku Niemcy rozpoczęli główną akcję eksterminacyjną ludności żydowskiej. W ciągu ośmiu dni wywieziono do obozu w Bełżcu od 3500 do 10 tysięcy mieszkańców getta w Tarnowie, a w mieście i na żydowskim cmentarzu stracono ponad 3000 Żydów. Gdy zapełniono masowe groby na cmentarzu, od 15 czerwca 1942 roku przez kilka dni w lesie Buczyna rozstrzelano, zakatowano i pogrzebano w zbiorowych dołach od 6 do 7 tysięcy osób pochodzenia żydowskiego, głównie kobiet, starców i dzieci oraz chorych i niepełnosprawnych, a około 10 tysięcy wysłano do obozu w Bełżcu. Później mordowano tu całe rodziny Żydów z gett w Tarnowie i Brzesku oraz od kilkuset do 2000 osadzonych w tarnowskim więzieniu polskich więźniów politycznych. Szacuje się, że w lesie Buczyna pochowano około 10 tysięcy osób, w tym blisko 800 dzieci z żydowskiego sierocińca. W 1945 roku przeprowadzono oględziny masowych grobów. W 1948 roku na miejscu zbrodni wzniesiono pomnik w formie obelisku zwieńczonego zniczem, z napisem – „Chwała ofiarom terroru hitlerowskiego”. Zaznaczono symboliczne kwatery sześciu zbiorowych mogił i ustawiono tablice z napisami w językach hebrajskim i polskim. W 1998 roku urządzono ścieżkę upamiętniającą tragiczne wydarzenia. W 2015 roku ponownie przebadano teren i za pomocą georadaru natrafiono na ślady siedmiu kolejnych zbiorowych mogił.

Masowe groby w lesie Buczyna są największym cmentarzem ofiar Holocaustu znajdującym się w granicach Polski po 1945.

Każdego roku przy grobach odprawiane jest ekumeniczne nabożeństwo. Cmentarz jest celem pielgrzymek Żydów z całego świata.