Родители Мостела были евреями-иммигрантами из Восточной Европы, но познакомились они уже в Соединённых Штатах. Для Израэля это был уже второй брак, от первого осталось четверо детей. Цина родила ему ещё четверых, Зиро был седьмым. Семья не жила в бедности, но с финансами при таком количестве детей было туговато.

По натуре Мостел был живым и любознательным, обладал развитым чувством юмора, быстрым умом, интересовался живописью и графикой - хотя его отец надеялся, что мальчик станет раввином. Он окончил среднюю школу "Сьюард-Парк" в Нижнем Ист-Сайде. В школе Мостел был отличником, хотя и утверждал позже, что получил свое прозвище "Zero" (ноль) благодаря низким баллам. Он стал профессиональным художником, занимаясь рисунком и живописью в "Образовательном альянсе".

После окончания школы Зиро поступил в нью-йоркский Сити-колледж, который в те времена называли "Гарвардом для бедных". Окончив колледж в 1935 г., Мостел продолжил обучение, чтобы получить степень магистра. Программа "Public Works of Art Project" выплачивала ему стипендию, и одним из условий её получения было чтение лекций в нью-йоркских музеях. Его природное чувство юмора проявлялось даже во время лекций об искусстве, и вскоре Мостела стали приглашать для развлечения на вечеринки и другие мероприятия.

В 1941 г. манхэттенский ночной клуб Café Society предложил Мостелу работу профессионального комика, и за несколько месяцев он стал главной достопримечательностью клуба. Таким образом, в возрасте 27 лет Зеро начал карьеру в шоу-бизнесе. Успех молодого артиста был стремительным. Уже в 1942 году его еженедельная зарплата выросла с 40 до 450 долларов, и это было только начало. Он участвовал в радиошоу, в бродвейских постановках, снялся в фильме компании MGM, а ночной клуб La Martinique предложил ему 4 тысячи долларов в неделю за выступления. В 1943 г. журнал "Лайф" назвал Мостела "самым смешным из всех ныне живущих американцев".

В том же году Зиро призвали в армию, но через год демобилизовали по состоянию здоровья. Когда он вернулся из армии, его карьера вновь взлетела вверх - спектакли, мюзиклы, телешоу и кинофильмы сменяли друг друга. Критики видели в нем универсального актёра, который одинаково органичен в спектакле по пьесе Мольера и на сцене ночного клуба.

В начале 1950-х Мостела заподозрили в связях с Коммунистической партией и внесли в "чёрный список", запрещавший продюсерам приглашать артиста в свои проекты. На слушаниях Зеро вел себя достойно, относился к ситуации с большим юмором и не раз ставил своих оппонентов в глупое положение. В 1951 г. он снялся в пяти фильмах, после чего последовал перерыв до 1959 года. На какое-то время его семье (жене и двум сыновьям) пришлось затянуть пояса, но Зиро не унывал и использовал освободившееся время, чтобы провести его в своей художественной мастерской.

После того, как "эпоха маккартизма" закончилась, у Зиро было еще полтора десятка лет, чтобы сыграть многие из самых ярких и известных своих ролей. В 1961 г. он получил премию Тони как лучший актёр за роль в спектакле "Носороги". Самыми большими его удачами на бродвейской сцене были роли Тевье в легендарном мюзикле "Скрипач на крыше" (1964), Пседолуса в "Смешном происшествии по дороге на форум" (ещё одна премия Тони, 1963г.) и Макса Бялыстока в "Продюсерах" в постановке Мела Брукса (две последние роли Мостел сыграл также в экранизациях этих спектаклей).

Мостел был также сопредседателем Комитета выпускников Сити-колледжа, членом Управляющего совета Еврейского музея Нью-Йорка и др.
 

Зиро - сценическое имя. Имя Сэмюэл - английская форма библейского имени Самуил. Имя Джоэл - английская форма библейского имени Yo'el со значением "Яхве бог". Фамилия Мостель (Мостер), возможно, произошла от названия деревни Мосты в Витебской области (Беларусь).