Родители Джозефа были выходцами из м. Дембиц (Галиция, Австро-Венгрия, ныне Дембица, Польша), они владели универмагом на бульваре Белл в Бейсайде. Джо вырос в квартире над этим магазином, и позже эта квартира стала его юридическим офисом. Он был членом первого выпускного класса в средней школе Бейсайда. Джo Тэненбаум окончил Нью-Йоркский университет и с апреля 1943 г. по ноябрь 1945-го служил в армии США в Китае. За свою службу во время Второй мировой войны он был награждён медалью "Бронзовая звезда". После демобилизации Джо окончил юридический факультет НЙУ и более 60 лет проработал  адвокатом, сохранив свою лицензию даже после выхода на пенсию. Многие годы он занимался юридической практикой в Бейсайде со своими сыновьями Марком и Ричардом. Тэненбаум был членом правления и попечителем Американского общества Техниона и много раз ездил в Израиль.  В 2007 г. Технион наградил Тэненбаума почётной докторской степенью. Кроме того, он был председателем Совета больницы Flushing Hospital, президентом и пожизненным попечителем Samuel Field YM-YWHA в р-не Литл-Нек с момента его основания в середине 1950-х годов, а также судьёй-адвокатом для организации "Евреи - ветераны войны". Тэненбаум был страстным коллекционером произведений искусства, а также активным и опытным инвестором в недвижимость. Умер после операции на бедре.

Имя Джозеф - английская форма библейского имени Йосеф. Фамилия Таненбаум произошла от немецкого слова Tannenbaum - "новогодняя ёлка".

Вне Нью-Йорка

- В Технионе в Хайфе есть общежитие им. Джозефа и Бернис Таненбаум, а также кафедра профилактической медицины.