Илайхью Роуз окончил частную школу им. Хореса Мэнна в Бронксе, затем Йельский университет, в 1954-56 гг. служил в Военно-воздушных силах США. После демобилизации присоединился к компании по строительству и торговле недвижимостью "Роуз Ассошиэйтс", основанной в 1928г. его отцом и дядей, Дэвидом Роузом. Его старшие братья Фредерик и Дэниэл к этому времени уже работали в компании.

В 1978 г. Илайхью получил степень доктора наук по международным отношениям в Нью-Йоркском университете. Продолжая работать в сфере недвижимости, он читал лекции по военной истории в Йельском, Колумбийском и Мерилендском университетах, в Военной академии в Вест-Пойнте и в Военно-морской академии в Аннаполисе. Получил должность доцента в Нью-Йоркском университете.

В 1988 г. Илайхью и его жена Сюзен Векслер основали благотворительный фонд "Susan and Elihu Rose Foundation". Среди объектов их благотворительности в Нью-Йорке - Карнеги-Холл, Арсенал Седьмого полка на Парк-авеню, Еврейский музей, Институт Американской Истории Гилдера-Лермана, Нью-Йоркское историческое общество, школа им. Хореса Мэнна, Рокфеллеровский университет, Школа Джульярд, Гарлемский фонд действий в сфере образования, Федерация еврейских филантропов и др.

Илайхью Роуз входил в управляющие органы Общественной телесети WNET и Линкольн-Центра, в Консультационный совет Национального Музея Американской Истории, был председателем Международного центра фотографии. Он является членом Американской академии искусств и наук. Награждён Премией за выдающееся преподавание Нью-Йоркского университета (2002), Медалью за отличную гражданскую службу Военного флота (1993),  подобной медалью Армии США (2004) и др.
 

Имя Илайхью - английская форма библейского имени Элигу, что значит "Бог мой Он" на иврите. Фамилия Роуз происходит от слова со значением "роза" (цветок) в ряде европейских языков.

Вне Нью-Йорка

В честь Фредерика, Дэниэла и Илайхью Роузов названа аллея "Rose Walk" в Йельском университете (1993).