В 1969 г. Гроссман получил степень бакалавра наук по биологии в Тулейнском университете в Новом Орлеане, где он был стипендиатом университета. В 1973 г. он получил медицинскую степень в Медицинской школе Пенсильванского университета, затем прошёл стажировку в больнице Бет-Израэл в Бостоне, штат Массачусетс, два года резидентуры по нейрохирургии в больнице Пенсильванского университета в Филадельфии, резидентуру по радиологии в больнице Пенсильванского университета и стажировку по нейрорадиологии в Массачусетской больнице общего профиля.

Гроссман начал работать в Медицинской школе Пенсильванского университета в качестве помощника преподавателя на кафедре нейрохирургии. Позже он занимал должность заведующего отдела нейрорадиологией, заместителя заведующего кафедрой радиологии и профессора радиологии, нейрохирургии и неврологии. В 2001 г. он был назначен профессором радиологии и заведующим кафедрой радиологии Медицинской школы Нью-Йоркского университета.

В 2007 г. Гроссман был назначен деканом Медицинской школы Нью-Йоркского университета, позже переименованной в Медицинскую школу им. Гроссмана, и главным исполнительным директором Медицинского центра НЙУ, позже переименованного в NYU Langone Health. NYU Langone - одна из крупнейших систем здравоохранения на северо-востоке США, насчитывающая более 52 000 сотрудников и охватывающая 6 стационарных учреждений и более 320 филиалов в штатах Нью-Йорк и Флорида.

Гроссман получил более 25 грантов от Национальных институтов здравоохранения. В 1999 г. он был одним из десяти учёных в США, получивших премию Javits Neuroscience Investigator Award. Грант в 4 миллиона долларов поддержал его продолжающиеся исследования рассеянного склероза. Гроссман был членом Секции диагностических радиологических исследований в Национальных институтах здравоохранения и занимал должность её председателя. Он также был членом Национального консультативного совета по биомедицинской визуализации и биоинженерии.

В 2008 г. Гроссман запустил 10-летний план трансформации кампусов, который расширила площадь NYU Langone до 14 миллионов кв. футов клинических, образовательных и исследовательских площадей на Манхэттене, в Бруклине и на Лонг-Айленде. 29 октября 2012 года он руководил безопасной эвакуацией 322 пациентов во время урагана "Сэнди", который затопил кампус Langone Health в Мидтауне, нанеся ущерб инфраструктуре учреждения на сумму более одного миллиарда долларов и вызвав его временное закрытие.

Гроссман опубликовал более 330 статей в профессиональных и научных журналах. В 2004 г. он стал первым обладателем премии "«За выдающийся вклад в исследования" от Американского общества нейрорадиологии. В 2010 г. он получил Золотую медаль Международного общества магнитного резонанса в медицине за свои исследования в области магнитно-резонансной томографии и был удостоен почётной докторской степени Университета Бордо, Франция. В 2018 г. он был включён в список "Health Care 50" журнала Time, в который вошли 50 самых влиятельных лидеров здравоохранения. В 2021 г. Гроссман стал обладателем Золотой медали Американского общества нейрорадиологии. В 2022 г. он был избран в Американскую академию искусств и наук. Гроссман является также членом Американского общества нейрорадиологии и членом Международного общества магнитного резонанса в медицине.

Имя Роберт происходит от германского имени Хродеберт, что означает "яркая слава". Фамилия Гроссман образована немецкими словами gross - "большой", "высокий" и Mann - "человек".