Голдстайн вырос в крошечном городке Кингстри в Южной Каролине. По окончании университета Ли в Лексингтоне, Вирджиния (1962) он получил степень доктора медицины в Техасском университете в Далласе (1966). Стажировался в больнице в Бостоне, затем два года работал научным сотрудником в лаборатории клинической генетики Национального института здравоохранения. В 1970-72 гг. стажировался по медицинской генетике в университете штата Вашингтон в Сиэтле.

В 1972 г. Голдстайн вернулся в Техасский университет, чтобы возглавить отделение медицинской генетики. Через два года ему присвоили звание экстраординарного профессора, затем - профессора отделения внутренних болезней (1976). С 1977 г. Голдстайн - руководитель отдела молекулярной генетики Техасского университета, профессор медицины и генетики, член Совета Института биологических исследований имени Солка в Сан-Диего, Калифорния (1983). Читал лекции во многих университетах Америки и Европы, редактировал научные журналы.

Голдстайн, работая совместно с Майклом Брауном, внёс фундаментальный вклад в раскрытие механизма регуляции холестеринового обмена в организме. Они изучали гиперхолестеринемию, в частности, форму наследственного заболевания, характеризующегося высоким содержанием в крови холестерина и липопротеидов низкой плотности (ЛНП), при котором в клетках внутри кровеносных сосудов образуются атеросклеротические отложения.

В 1984 г. Голдстайн и Браун описали несколько мутаций гена, ответственного за рецепторы ЛНП. В 1985 г. им была присуждена Нобелевская премия по физиологии и медицине "за исследования, которые существенным образом углубили понимание метаболизма холестерина и увеличили возможности профилактики и лечения атеросклероза".

Джозеф Голдстайн удостоен многих наград, среди которых премия Американского химического общества за исследования в области химии ферментов (1976), Американской национальной академии наук (1979) и др. Член Национальной академии наук США с 1980г.   
   

Имя Джозеф - английская форма библейского имени Йосеф, означающего "будет добавлен". Имя Леонард - германского происхождения, означает "храбрый лев". Фамилия Гольдштейн происходит от немецких слов Gold - "золото" и Stein - "камень".