Дженни училась в городской и еврейской школе, брала уроки музыки. Она впервые вышла на сцену в восьмилетнем возрасте в спектакле "Ханеле-портниха". С 15 лет она начала играть взрослые роли в водевилях, а в 18 вышла замуж за артиста и драматурга Макса Гэбела и с большим успехом играла вместе с ним в его мелодрамах. Сильными сторонами Дженни считались прекрасный голос и умение заставить публику плакать.

В 1930-м Дженни и Макс разошлись. Она продолжала играть в еврейских театрах Нью-Йорка, а в 1932-33 гг. даже руководила Prospect Theater в Бронксе. В 1936 г. она вышла замуж за адвоката Чарльза Гролла. Единственный фильм, в котором Голдстайн сыграла главную роль, был драмой на идиш "Две сестры" (1938, США). В следующем году она совершила большой тур по Южной Америке.

В 1940-х театр на идиш начинает приходить в упадок. Дженни пробует себя как комедийная актриса, выступает в еврейских организациях. В 1950-х она участвоваа в двух бродвейских шоу, появлялась на телевидении в "Билли Роуз шоу". Она была членом Союза еврейских актёров, а также благотворительных организаций Bikur Cholim Convalescent Home и Daughters of Israel Day Nursery.

Имя Дженни - уменьшительное от Джейн, английской женской формы библейского имени Йехоханан, означающего "Яхве милостив". Фамилия Гольдштейн происходит от немецких слов Gold - "золото" и Stein - "камень".