В школьные годы Фостер участвовал в конкурсах любительских шоу. Дебютировал как артист комедийного жанра в ночном клубе в Чикаго в конце 1930-х годов. Во время Второй мировой войны служил в армии, после демобилизации вернулся в Нью-Йорк и продолжил свою карьеру комедийного артиста - "посла Бруклина в Мире".

Начав сниматься в 1948г., Фостер в 1951-56 гг. снялся в 14 фильмах - в основном в короткометражках типа "Бруклин едет в Париж", "Бруклин едет в Лас-Вегас" и т.п. Его наиболее заметная роль этого периода - в фильме "Покорение космоса" (1955).

Наибольшую известность Фостеру принесло его участие в телесериалах "Странная парочка" (1970-75) и "Лаверне и Ширли" (1976-83). Кроме того, он сыграл в телефильме "Большая американская дорожная пробка", неоднократно появлялся в телешоу Эда Салливэна, Стива Мартина, Джонни Карсона, записал несколько альбомов комедийных монологов.

На протяжении ряда лет Фостер руководил мастерской для молодых комедийных актёров "The Foster Children". Он также автор пьесы и двух книг.

Имя Фил - уменьшительное от нескольких английских имён, начинающихся этим слогом. Имя Файвель -уменьшительное от Файваш, которое происходит от французского средневекового имени Vives, означающего "жизнь". Фамилия Фостер происходит от английского слова forester - "лесник". Фамилия Фельдман означает "фермер" или "человек поля" на немецком.