В 1919 г. Юзеф поступил в труппу Лодзинского драматического театра, а в следующем году - в знаменитую Виленскую труппу, сыгравшую большую роль в истории еврейского театра. Вместе с Труппой он объездил тогдашние еврейские культурные центры - Ковно (Каунас), Белосток, Варшаву, Гродно. В 1922 г. прошли триумфальные гастроли в Вене и южной Германии, затем Труппа перебралась на родину идишистского театра - в Бухарест и Яссы.

В 1927 г. Булоф и его жена Люба Кэдисон приехали в Соединённые Штаты, но их попытка создать в Нью-Йорке собственный театр (в Бронксе) оказалась неудачной, и они вернулись в Румынию. Лишь в 1930 г., приехав в Америку по приглашению Мориса Шворца, Булоф и Кэдисон смогли окончательно здесь обосноваться. Их главной сценой на многие годы стал Еврейский Художественный театр в Нью-Йорке (на Второй авеню и 12-й улице). В 1930-е годы труппа Шварца много гастролировала в Европе и Южной Америке, при этом Кадисон и Булоф часто выступали и с местными коллективами.

Со временем Булоф стал одним из ведущих актёров еврейской сцены. Он сыграл в более чем двухстах пьесах на идиш, в некоторых случаях выступал и как режиссёр. С 1936 г. он начал играть и по-английски, участвовал во многих бродвейских постановках - "Оклахома!", "Моя сестра Эйлин", "Стена", "Пятое время года" и др.

Дебют Булофа в кино состоялся в 1940 году ("Давайте делать музыку"). Он снялся во множестве фильмов, из них наиболее удачные - "Кто-то наверху любит меня" (1956), "Шёлковые чулки"(1957), "Красные" (1981). В ранние годы телевидения Булоф сыграл роль Пинкуса Пайнса в телесерии "The Goldbergs" (1949). Всего актёр снялся в 34 фильмах и телевизионных постановках.

Булоф работал также на радио, выступал как чтец (на английском и на идиш), много гастролировал по Америке и Европе, Южной Африке и Израилю. Булоф - автор двух книг, "Блокнот Чехова" (1983) и "Сказки старого рынка" (1986). Был награждён премией Оби за спектакли "Трудно быть евреем" (1973) и "Цена" (1979), а также Премией Шолом-Алейхема (Квинс-колледж), премией памяти Сэма Ливенсона, премией Тель-Авивского университета и др.

Имя Джозеф - английская форма библейского имени Йосеф. Фамилия Булов могла была заимствована из Германии, где известен стиринный баронский род von Bülow.