Родители Эли, иммигранты из Российской Польши, владели кондитерским магазином в итальянском районе Бруклина. (Между прочим, он был родственником советского наркома иностранных дел в 1936-39 гг. Максима Литвинова, настоящее имя которого - Меер-Генох Валлах.) Эли окончил среднюю школу Эразмас-Холл в Бруклине (1932) и Техасский университет в Остине (1936), получил степень магистра искусств в нью-йоркском Сити-колледже (1938). Участвовал в студенческих театральных постановках.

Вторую мировую войну Уоллак начал в 1940 г. сержантом в госпитале на Гавайях. После офицерской школы служил в Касабланке и во Франции, демобилизовался в 1945 г. в чине капитана. Затем брал уроки драматического искусства в нью-йоркском университете "Новая Школа", в мастерской известного режиссёра Эрвина Пискатора. Его дебют на Бродвее состоялся в том же 1945 г., а в 1951 г. он стал лауреатом премии Тони за роль Альваро в пьесе Теннесси Уильямса "Татуированная роза".

Уоллак получил известность как киноактёр в начале 50-х. За 60 лет он сыграл более 80 ролей в кино и на телевидении. Снимался в таких известных фильмах, как "Великолепная семёрка" (1960), "Неприкаянные" (1961), "Хороший, плохой, злой" (1966) вместе с Клинтом Иствудом и Ли Ван Клифом, в телевизионном фильме "Песня палача" (1982) с Томми Ли Джонсом, "Два Джека" (1990) с Джеком Николсом и в третьей части "Крёстного отца".  Также среди ролей Уоллака, запомнившихся зрителям, - Чарли Грант в фильме Джона Форда "Как был завоёван Запад" (1962), эксцентричный миллионер Дэвис Лиланд в комедии Уильяма Уайлера "Как украсть миллион" (1966), Бен Бейкер в фильме Джей Ли Томпсона "Золото Маккенны" (1969) и др.

В 2005 г. вышла автобиографическая книга Уоллака "Хороший, плохой и я: истории из моей жизни". В последующие годы... продолжал сниматься в кино и появляться на телевидении! Уоллак награждён несколькими премиями Тони и Эмми, в 2010г. он получил почётного Оскара за вклад в киноискусство. Свою последнюю роль он сыграл в 2010 г. в фильме "Уолл-стрит: Деньги не спят".

Имя Элиэзер (Эли - уменьшительное) - библейского происхождения, "Эли" означает "мой Бог", "эзер" - "помощь". Имя Герш (Гершель - уменьшительное) переводится с идиш как "олень". Фамилия Уоллак - англизированный вариант идишской фамилии Волох, означающей "итальянец".