Отец Джея Мазура эмигрировал из Польши в Нью-Йорк в 1922 году. Мать Джея умерла, когда ему было 11 лет, оставив четверых детей - мальчиков-близнецов и двух старших девочек. После окончания средней школы в 1951 году Джей начал работать в Департаменте здравоохранения и социального обеспечения местного отделения профсоюза портных Нью-Йорка. В 1955 г. он поступил в Институт профессиональной подготовки ILGWU - годичную интенсивную программу подготовки студентов к работе в штате ILGWU - Международного союза дамских портных.

После выпуска в 1956 г. Мазур работал в отделениях 40 и 23-25, где был избран помощником менеджера в 1964-м и менеджером в 1973 г. Работая в профсоюзе, Мазур получил степень бакалавра в области кадровых и трудовых исследований в Сити-колледже Нью-Йорка, а затем степень магистра трудовых отношений в Университете Ратгерс.

Мазур стал вице-президентом ILGWU в 1977 г. В 1983-м он был избран в руководство Интернационалом в качестве секретаря-казначея, а в 1986-м сменил Сола Чайкина на посту президента ILGWU. Во время своего пребывания на этом посту Мазур руководил крупными кампаниями по остановке спада в производстве одежды в Соединённых Штатах. Мазур работал в исполнительных советах и в Департаменте промышленных союзов Американской федерации труда; Помимо работы в национальных и международных федерациях профсоюзов, он также входил в состав советов многих фондов и правительственных комиссий.

Под руководством Мазура ILGWU объединился с Amalgamated Clothing and Textile Workers of America, чтобы сформировать Союз швейников и рабочих текстильной промышленности (UNITE) в 1995 году. Он был первым президентом UNITE с 1995 года до своего выхода на пенсию в 2001 году.
 

Джей - уменьшительное от английских имён James, Jacob, Jared, Jeremy, John, Jonathan, Joseph, Jason, Jordan, Justin и др. Польская фамилия Мазур означает жителя южной части Восточной Пруссии, средневекового княжества Мазовия.