Хаим Гросс и его семья вынуждены были из-за вторжения русской армии во время Первой мировой войны покинуть Коломыю (ныне Украина), где они жили с 1911 года. Несколько лет семья вела жизнь беженцев в раздираемой войнами и революциями Восточной Европе.

Художественное образование Хаима началось в 1919 г. в Будапеште.и продолжилось в Вене. Потом его старший брат, эмигрировавший в Америку, прислал Хаиму деньги на переезд в США, и в 1921 г. Хаим Гросс прибыл в Нью-Йорк и поселился в Гринич-Виллидж. Работая посыльным, продавцом и т.п., он посещал художественную школу при Образовательном Альянсе, платя по 3 цента за урок. Позднее Гросс 4 года учился в Институте дизайна Боз-Ар, где его учителями были скульпторы Эли Надельман и Роберт Лорен.

Первая персональная выставка Гросса состоялась в Гринич-Виллидже в 1932 г. Признание пришло к нему в конце 30-х, в первую очередь благодаря его деревянным скульптурам, хотя позднее он работал также в камне и в бронзе. Его любимые персонажи - жонглёры, танцоры, акробаты, матери, играющие с детьми, и т.п. В 1935 г. Гросс выиграл конкурс на создание скульптур почтальонов для здания почты в Вашингтоне. Два павильона Всемирной выставки 1939-40 гг. в Нью-Йорке были украшены произведениями Гросса. Он создал также несколько серий акварелий и рисунков пером, многие из которых посвящены его родственникам, погибшим в Холокосте.

В 1938 г. Гросс участвовал в создании Гильдии скульпторов. Более сорока лет он преподавал в Новой школе социальных исследований и почти 68 лет - в Образовательном Альянсе. Его работы выставлены в 75 музеях, в основном в США (включая Метрополитен) и в Израиле. Среди полученных им наград - серебрянная медаль Всемирной выставки в Париже (1937), премия Американской академии искусств и литературы (1963) и др. Гросс также собирал картины современных художников и  произведения африканского искусства. Похоронен на кладбище Маунт-Лебанон в р-не Глендейл в Квинсе.
 

Имя Хаим происходит от слова chayyim - "жизнь" на иврите. Еврейские имена Нусин и Носсон - варианты библейского имени Натан, которое означет "он дал". Фамилия Гросс образована немецким и идишским словом gross - "большой", "высокий".

Вне Нью-Йорка (Public art)

- Скульптурa "Tourists" установлена перед библиотекой на Коммершиэл-стрит, Провинстаун, Массачусетс.

- Скульптурa "Happy Mother" (1958) установлена в кампусе Университета Вичита, Канзас.

- Две работы Хаима Гросса установлены в парке Художественного музея округа Нассо, Рослин-Харбор, Нью-Йорк.