Йосель поступил в Келмскую ешиву в очень молодом возрасте. В шестнадцать лет он уже читал шиур (урок) в синагоге. В восемнадцать Хурвиц женился на старшей дочери раввина Яакова Штейна, владельца текстильного магазина. Поскольку Штейн умер незадолго до свадьбы, после свадьбы Хурвиц взял на себя управление бизнесом своего тестя, а также поддержку вдовы Штейна и восьми его детей. Однако в возрасте 27 лет он встретил раввина Исраэля Салантера, основоположника движения Мусар (мораль)., и влияние этой встречи полностью изменило направление его жизни. Он с головой ушёл в учёбу и духовные дела. Вся его жизнь была теперь основана на тотальной, радикальной вере, и он полностью освободился от материальных забот. В 1896 г. р. Хурвиц основал большую ешиву в г. Новогрудок Минской губернии (ныне Гродненская область. Беларусь), которая быстро стала одной из самых важных ешив в Европе до Второй мировой войны и движущей силой мусарского движения. Новогрудская ешива послужила образцом для целой сети ешив, созданных р. Хурвицем и его учениками. Некоторые из его речей были записаны в книге "Мадрегат ха-Адам" ("Рост человека" на иврите). В 1919 году, когда он был в Киеве, разразилась эпидемия чумы. Ухаживая за больными, реб Йосель сам заразился и умер.

Йосеф - библейское имя, Йосл - идишское уменьшительное от того же имени. Фамилия Гурвич произошла от названия местечка Горович (нем. Horowitz) в Богемии.