Файвуш был третьим из четырёх братьев в семье. С девятилетнего возраста он стал выступать на сценах многочисленных в то время нью-йоркских театров, ставивших пьесы на идиш. Почти 35 лет играл в спектаклях этих театров, главным образом в водевилях, а также выступал в жанре "стендап" на еврейских курортах штата Нью-Йорк. Финкель дебютировал в кино в снятой на идише комедийной ленте Monticello, Here We Come (1950).

В 1950-е годы театры, игравшие на идиш, начали закрываться, так как родившиеся в США дети иммигрантов, как правило, не знали идиш. В 1965 г. состоялся дебют Финкеля на Бродвее - в знаменитом мюзикле "Скрипач на крыше" по произведениям Шолом-Алейхема, в котором он сыграл роль трактирщика Мордхе. После возобновления этой пьесы на бродвейской сцене в 1980-е годы Файвуш Финкель играл в ней главную роль - Тевье-молочника.

С 1977 г. Финкель начал появляться в телесериалах. Он сыграл в комедийном детективе "Не в своей тарелке" (1986), тогда же исполнил роль соперника Робина Уильямса в телеверсии романа Сола Беллоу "Захвати день". Финкель сыграл юриста в ленте Сидни Люмета "Вопросы и ответы" (1990) и турагента в фантастическом сериале "Остров фантазий" (1998-99). Он также появлялся в сериалах "Закон и порядок", "Завтра наступит сегодня" и экранизации Нила Саймона "Воспоминания о Брайтон-Бич".

Актёр получил престижную кинопремию Эмми и был номинирован на премию "Золотой глобус" в 1994 году за роль государственного защитника Дугласа Уэмбо в популярном сериале телекомпании CBS "Застава фехтовальщиков". Он также снялся в фильмах "Гангстеры" (1991), "Консьерж" (1993), "Никсон" (1995) и в роли диббука в ленте братьев Коэн "Серьёзный человек" (2009). Его имя внесено в Еврейский Зал славы Бруклина в 2015 г.

Имя Филип - английская форма греческого имени Philippos, состоящего из элементов philos - "друг" и hippos - "лошадь". Имя Файвуш (Файбуш) происходит от французского средневекового имени Vives, означающего "жизнь". Фамилия Финкель произошла от идишского слова финкель, которое означает "искра".