Джозеф Урбан изучал архитектуру в Академии изящных искусств Вены. В 1890 г. он стал одним из основателей австрийского художественного движения Хагенбунд. Его новаторские работы в области книжной иллюстрации, особенно детских книг, сделали его одним из столпов этого жанра. Свой первый архитектурный заказ он получил в 19 лет, когда ему поручили спроектировать новое крыло дворца Абдин в Каире.

Урбан иммигрировал в Соединённые Штаты в 1911 г., чтобы занять пост арт-директора Бостонской оперы. К этому времени он уже оформил более 50 спектаклей в Королевской Опере в Вене, Опере Шаз-Элизе в Париже и театре Ковент-Гарден в Лондоне. Как театральный художник он отличался преимущественным использованием основных цветов и пуантилистской техникой.

В 1914 г. Урбан перебрался в Нью-Йорк, где за следующие 20 лет он оформил 47 спектаклей, некоторые из них оставались в репертуаре ещё и в 1950-е годы. В Нью-Йорке он также активно сотрудничал с театральным продюсером Флоренцем Зигфельдом и медиа-магнатом У. Р. Хёрстом, по заказам которого он оформил 25 кинофильмов (в основном с участием Мэрион Дэвис, любовницы Хёрста).

Параллельно с работой в театре и кино Урбан спроектировал десятки зданий от Дворца Эстергази в Венгрии до Театра Зигфельда в Нью-Йорке. Он считается одним из основателей архитектурного стиля "Американский ар-деко". Большинство его архитектурных работ в США к 21-му веку не сохранилось.

Имя Джозеф - английская форма библейского имени Йосеф, означающего "будет добавлен". Фамилия Урбан - от средневекового личного имени, произошедшего от латинского Urbanus,  что означает "житель города".